תוכן העניינים
\(\:\)עקרונות מנחים לכתיבת פקודותMacros LatexCommand ruleoffset "0.5ex"width "100col%"height "1pt"
- כל פקודה תתחיל ב-MKגדולות עש מיכאל קלי (Michael Kali), וזאת משתי סיבות:
- כדי שבטבלת הקיצורים שבתוך \SpecialChar LyX תופענה כל הפקודות זו לצד זו.
- הבחירה דווקא באותיות גדולות נועדה לוודא שהפקודות אינן מתנגשות עם פקודות \SpecialChar LaTeX מקוריות.
- על הפקודות להיות קצרות ככל האפשר, וזאת כדי לאפשר את כתיבתן במהירות מבלי ליצור להן קיצור מקלדת. הסיבה לכך שלא ניצור קיצור מקלדת לכל פקודה היא שפעמים רבות ניצור פקודות שתיועדנה למקרים מסוימים מאוד, ואז יעבור זמן רב עד שנשתמש בקיצור המקלדת בפעם הבאה ולכן לא נזכור אותו - הרבה יותר פשוט לזכור את הפקודה שיצרנו מכיוון שיש לה תוכן אמיתי שקשור לפלט הרצוי מן הפקודה. סיבה נוספת היא שיצירת קיצור מקלדת לכל פקודה ולו החריגה ביותר תקשה עלינו ליצור קיצורי מקלדת לפקודות חשובות יותר.
לפיכך פקודות שימושיות מאוד שבוודאי ניצור להן קיצור מקלדת ונשתמש בו פעמים רבות אינן צריכות להיות קצרות. - כדי להקל על כתיבת פקודות שלא יצרתי להן קיצור מקלדת כתבתי קיצור מקלדת שיוצר את הקידומת של כל פקודות ה-macrosשלי ואז כל מה שנותר הוא להקיש שלוש-ארבע אותיות כדי לבחור את הפקודה הרצויה, קיצור המקלדת המדובר הוא "Ctrl+k".
- לכל גופן יש קידומת בת שתי אותיות.
\(\:\)קבוצות ופונקציות לפי קורסיםLatexCommand ruleoffset "0.5ex"width "100col%"height "1pt"\(\:\)
\(\:\)המספרים המרוכבים ופונקציות מרוכבות\(\:\)
\(\newcommand{\MKcis}{\text{cis}}\)\(\cos+i\cdot\sin\). המספרים המרוכבים.
\(\newcommand{\MKre}{\text{Re}}\)החלק הממשי של מספר מרוכב. המספרים המרוכבים.
\(\newcommand{\MKim}{\text{Im}}\)החלק המדומה של מספר מרוכב. המספרים המרוכבים.מופיע גם כתמונה של פונקציה.
\(\newcommand{\MKind}{\text{Ind}}\)אינדקס ליפוף. מרוכבות.
\(\newcommand{\MKres}{\text{Res}}\)שארית (residue). מרוכבות.
\(\:\)אינפי', יריעות ופונקציונלית\(\:\)
\(\newcommand{\MKarsinh}{\text{arsinh}}\)סינוס היפרבולי הפוך, אינפי'.
\(\newcommand{\MKarcosh}{\text{arcosh}}\)קוסינוס היפרבולי הפוך, אינפי'.
\(\newcommand{\MKartanh}{\text{artanh}}\)טנגנס היפרבולי הפוך, אינפי'.
\(\newcommand{\MKar}{\text{ar}}\)יחס אורך-רוחב (aspect ratio). אינפי'.
\(\newcommand{\MKclos}{\text{Cl}}\)סגור (closure). אינפי'.
\(\newcommand{\MKdiam}{\text{diam}}\)קוטר (diameter). אינפי'.
\(\newcommand{\MKdiv}{\text{div}}\)דיברגנץ (divergence). יריעות.
\(\newcommand{\MKext}{\text{Ext}}\)חוץ (exterior). אינפי'.
\(\newcommand{\MKint}{\text{Int}}\)פנים (interior). אינפי'.
\(\newcommand{\MKop}{\text{op}}\)נורמה אופרטורית. אינפי'.
\(\newcommand{\MKvol}{\text{Vol}}\)נפח של קבוצה (volume). יריעות.
\(\newcommand{\MKsupp}{\text{Supp}}\)התומך של פונקציה (support). פונקציונלית.
\(\:\)אלגברה ליניארית ומבנים אלגבריים\(\:\)
\(\newcommand{\MKadj}{\text{adj}}\)המטריצה המצורפת (adjoint). ליניארית.
\(\newcommand{\MKaut}{\text{Aut}}\)חבורת האוטומורפיזמים. מבנים.
\(\newcommand{\MKchar}{\text{char}}\)המציין של שדה. מבנים.
\(\newcommand{\MKcor}{\text{Core}}\)הליבה של חבורה (core). מבנים.
\(\newcommand{\MKend}{\text{End}}\)קבוצת האנדומורפיזמים. ליניאריתומבנים.
\(\newcommand{\MKfix}{\text{Fix}}\)קבוצת נקודות השבת של פונקציה או איבר בחבורה. מבנים.
\(\newcommand{\MKgal}{\text{Gal}}\)חבורת גלואה של הרחבת שדות. מבנים.
\(\newcommand{\MKgl}{\text{GL}}\)חבורת המטריצות ההפיכות. מבנים.
\(\newcommand{\MKhom}{\text{Hom}}\)קבוצת ההומומורפיזמים. ליניאריתומבנים.
\(\newcommand{\MKinn}{\text{Inn}}\)חבורת האוטומורפיזמים הפנימיים (inner). מבנים.
\(\newcommand{\MKnull}{\text{null}}\)דרגת האפסיות של העתקה. ליניארית.
\(\newcommand{\MKorth}{\text{O}}\)חבורת המטריצות האורתוגונליות.
\(\newcommand{\MKout}{\text{Out}}\)חבורת האוטומורפיזמים החיצוניים (outer). מבנים.
\(\newcommand{\MKrank}{\text{rk}}\)דרגה של מטריצה/העתקה. ליניארית.
\(\newcommand{\MKsep}{\text{sep}}\)משמש לסימון הסגור הספרבילי של שדה. מבנים.
\(\newcommand{\MKsl}{\text{SL}}\)חבורת המטריצות בעלות דטרמיננטה\(1\). ליניארית ומבנים.
\(\newcommand{\MKso}{\text{SO}}\)חבורת המטריצות האורתוגונליות בעלות דטרמיננטה \(1\). ליניארית.
\(\newcommand{\MKsu}{\text{SU}}\)חבורת המטריצות האוניטריות בעלות דטרמיננטה \(1\). ליניארית.
\(\newcommand{\MKspan}{\text{span}}\)פרוש. ליניארית.
\(\newcommand{\MKtrace}{\text{tr}}\)עקבה (trace). ליניארית.
\(\:\)תורת הקבוצות\(\:\)
\(\newcommand{\MKcupdot}{\mathbin{\cupdot}}\)איחוד זרתודה למיכאל קלי שכתב את הפקודה.
\(\newcommand{\MKbigcupdot}{\mathbin{\bigcupdot}}\)איחוד זר גדולתודה למיכאל קלי שכתב את הפקודה.
\(\newcommand{\MKdom}{\text{dom}}\)תחום ההגדרה של פונקציה (domain). קבוצות.
\(\newcommand{\MKrng}{\text{rng}}\)הטווח של פונקציה (range). קבוצות.
\(\renewcommand{\MKim}{\text{Im}}\)תמונה של פונקציה.מופיע גם כחלק מדומה של מספר מרוכב.
\(\newcommand{\MKsequ}{\text{Seq}}\)קבוצת הסדרות הסופיות של איברים מתוך קבוצה נתונה.
\(\:\)תורת ההסתברות\(\:\)
\(\newcommand{\MKalmsur}{\overset{\text{a.s.}}{=}}\)שוויון בין משתנים מקריים כמעט תמיד (almost surely).
\(\newcommand{\MKsmallalmsur}{\overset{\text{a.s.}}{\leq}}\)שוויון בין משתנים מקריים כמעט תמיד (almost surely).
\(\newcommand{\MKgreatalmsur}{\overset{\text{a.s.}}{\geq}}\)שוויון בין משתנים מקריים כמעט תמיד (almost surely).
\(\newcommand{\MKvar}{\text{Var}}\)שונות (variance).
\(\newcommand{\MKcovar}{\text{Cov}}\)שונות (co-variance).
\(\newcommand{\MKdist}{\overset{\text{d}}{=}}\)שוויון התפלגויות (distributions) בין משתנים מקריים.
\(\newcommand{\MKber}{\text{Ber}}\)התפלגות ברנולי.
\(\newcommand{\MKunif}{\text{Unif}}\)התפלגות אחידה.
\(\newcommand{\MKgeo}{\text{Geo}}\)התפלגות גאומטרית.
\(\newcommand{\MKbin}{\text{Bin}}\)התפלגות בינומית.
\(\newcommand{\MKpoi}{\text{Poi}}\)התפלגות פואסון.
\(\newcommand{\MKhypergeo}{\text{HG}}\)התפלגות היפר-גאומטרית.
\(\:\)שונותLatexCommand ruleoffset "0.5ex"width "100col%"height "1pt"\(\:\)
\(\newcommand{\MKnotequiv}{\not\equiv}\)
\(\newcommand{\MKtickmark}{\textcolor{green}{\checkmark}}\)
\(\newcommand{\MKxmark}{{\color{red}\boldsymbol{\times}}}\)
\(\:\)מדעי המחשב\(\:\)
\(\newcommand{\MKdin}{d_{\text{in}}}\)דרגת הכניסה של קודקוד. דיסקרטית ודאסט.
\(\newcommand{\MKdout}{d_{\text{out}}}\)דרגת היציאה של קודקוד. דיסקרטית ודאסט.
\(\newcommand{\MKfalse}{\text{False}}\)ערך שקר של פסוק. דיסקרטית ואינטרו.
\(\renewcommand{\MKnull}{\text{null}}\)ערךnull. דאסט.
\(\newcommand{\MKtrue}{\text{True}}\)ערך אמת של פסוק. דיסקרטית ואינטרו.
\(\:\)פיזיקה\(\:\)
\(\newcommand{\MKtot}{\text{tot}}\)קיצור שלtotal, מכניקה.
\(\renewcommand{\MKext}{\text{ext}}\)קיצור שלexternal, מכניקה.
\(\newcommand{\MKconst}{\text{Const}}\)קיצור שלconstant, מכניקה.
\(\newcommand{\MKeff}{\text{eff}}\)קיצור שלeffective, מכניקה.
\(\:\)מספרים שלמים\(\:\)
\(\newcommand{\MKeven}{\text{Even}}\)קבוצת הזוגיים
\(\newcommand{\MKodd}{\text{Odd}}\)קבוצת האי-זוגיים
\(\newcommand{\MKprime}{\text{Prime}}\)קבוצת הראשוניים. תורת המספרים.
\(\:\)פונקציות שונות\(\:\)
\(\newcommand{\MKid}{\text{Id}}\)פונקציית הזהות.
\(\newcommand{\MKlcm}{\text{lcm}}\)כפולה משותפת מינימלית
\(\newcommand{\MKord}{\text{Ord}}\)סדר (order). תורת המספרים.
\(\newcommand{\MKsign}{\text{sgn}}\)פונקציית הסימן
\(\:\)גופניםLatexCommand ruleoffset "0.5ex"width "100col%"height "1pt"\(\:\)
\(\:\)גופןmathbb: הטבעיים, השלמים. הרציונליים. הממשיים. המרוכבים ועוד\(\:\)
\(\newcommand{\MKbba}{\mathbb{A}}\)
\(\newcommand{\MKbbb}{\mathbb{B}}\)
\(\newcommand{\MKcomplex}{\mathbb{C}}\)המספרים המרוכבים
\(\newcommand{\MKbbd}{\mathbb{D}}\)
\(\newcommand{\MKbbe}{\mathbb{E}}\)
\(\newcommand{\MKfield}{\mathbb{F}}\)שדה
\(\newcommand{\MKbbg}{\mathbb{G}}\)
\(\newcommand{\MKbbh}{\mathbb{H}}\)
\(\newcommand{\MKbbi}{\mathbb{I}}\)
\(\newcommand{\MKbbj}{\mathbb{J}}\)
\(\newcommand{\MKbbk}{\mathbb{K}}\)
\(\newcommand{\MKbbl}{\mathbb{L}}\)
\(\newcommand{\MKbbm}{\mathbb{M}}\)
\(\newcommand{\MKnatural}{\mathbb{N}}\)המספרים הטבעיים
\(\newcommand{\MKbbo}{\mathbb{O}}\)
\(\newcommand{\MKbbp}{\mathbb{P}}\)
\(\newcommand{\MKrational}{\mathbb{Q}}\)המספרים הרציונליים
\(\newcommand{\MKreal}{\mathbb{R}}\)המספרים הממשיים
\(\newcommand{\MKbbs}{\mathbb{S}}\)
\(\newcommand{\MKbbt}{\mathbb{T}}\)
\(\newcommand{\MKbbu}{\mathbb{U}}\)
\(\newcommand{\MKbbv}{\mathbb{V}}\)
\(\newcommand{\MKbbw}{\mathbb{W}}\)
\(\newcommand{\MKbbx}{\mathbb{X}}\)
\(\newcommand{\MKbby}{\mathbb{Y}}\)
\(\newcommand{\MKinteger}{\mathbb{Z}}\)המספרים השלמים
\(\newcommand{\MKindicator}{\mathds{1}}\)פונקציה מציינת - אינדיקטור
\(\:\)גופןmathcal: בסיסים, קבוצת חזקה, העתקות גלואה, המילטוניאן ועוד\(\:\)
\(\newcommand{\MKcla}{\mathcal{A}}\)
\(\newcommand{\MKclb}{\mathcal{B}}\)
\(\newcommand{\MKclc}{\mathcal{C}}\)
\(\newcommand{\MKcld}{\mathcal{D}}\)
\(\newcommand{\MKcle}{\mathcal{E}}\)
\(\newcommand{\MKclf}{\mathcal{F}}\)
\(\newcommand{\MKclg}{\mathcal{G}}\)
\(\newcommand{\MKclh}{\mathcal{H}}\)
\(\newcommand{\MKcli}{\mathcal{I}}\)
\(\newcommand{\MKclj}{J}\)
\(\newcommand{\MKclk}{\mathcal{K}}\)
\(\newcommand{\MKcll}{\mathcal{L}}\)
\(\newcommand{\MKclm}{\mathcal{M}}\)
\(\newcommand{\MKcln}{\mathcal{N}}\)
\(\newcommand{\MKclo}{\mathcal{O}}\)
\(\newcommand{\MKclp}{\mathcal{P}}\)
\(\newcommand{\MKclq}{\mathcal{Q}}\)
\(\newcommand{\MKclr}{\mathcal{R}}\)
\(\newcommand{\MKcls}{\mathcal{S}}\)
\(\newcommand{\MKclt}{\mathcal{T}}\)
\(\newcommand{\MKclu}{\mathcal{U}}\)
\(\newcommand{\MKclv}{\mathcal{V}}\)
\(\newcommand{\MKclw}{\mathcal{W}}\)
\(\newcommand{\MKclx}{\mathcal{X}}\)
\(\newcommand{\MKcly}{\mathcal{Y}}\)
\(\newcommand{\MKclz}{\mathcal{Z}}\)
\(\:\)גופןmathscr: ?\(\:\)
\(\newcommand{\MKsrb}{\mathscr{B}}\)
\(\newcommand{\MKsrf}{\mathscr{F}}\)
\(\:\)גופןmathfrak: אותיות גותיות לעוצמות\(\:\)
\(\newcommand{\MKfka}{\mathfrak{a}}\)
\(\newcommand{\MKfkb}{\mathfrak{b}}\)
\(\newcommand{\MKfkc}{\mathfrak{c}}\)
\(\:\)כתיבת סדרות במהירותLatexCommand ruleoffset "0.5ex"width "100col%"height "1pt"\(\:\)
\(\newcommand{\MKseq}[3]{#1_{1}#2#1_{2}#2\ldots#2#1_{#3}}\)תודה למיכאל קלי שכתב את הפקודה.
\(\newcommand{\MKseqz}[3]{#1_{0}#2#1_{1}#2\ldots#2#1_{#3}}\)תודה למיכאל קלי שכתב את הפקודה.
\(\newcommand{\MKdseq}[5]{#1_{1}#2#3_{1}#4#1_{2}#2#3_{2}#4\ldots#1_{#5}#2#3_{#5}}\)תודה למיכאל קלי שכתב את הפקודה.
\(\newcommand{\MKdseqz}[5]{#1_{0}#2#3_{0}#4#1_{1}#2#3_{1}#4\ldots#1_{#5}#2#3_{#5}}\)תודה למיכאל קלי שכתב את הפקודה.
תורת ההסתברות (1) -80420
מרצה: אורי גוראל-גורביץ
מתרגל: אמיר בכר
סוכם ע"י שריה אנסבכר
סמסטר א תשפה, האוניברסיטה העברית
סביר להניח שהסיכומים שלי מכילים טעויות רבות - אני מוצא כאלה כל יום (רשימת טעויות נפוצות),
אני מפציר בכם לעדכן אותי בכל טעות שאתם מוצאים (ממש כל טעות ללא יוצא מן הכלל);
אתם מוזמנים להגיב על גבי המסמכים ב-Google Drive, לשלוח לי דוא\ או למלא פנייה באתר.
אני מפציר בכם לעדכן אותי בכל טעות שאתם מוצאים (ממש כל טעות ללא יוצא מן הכלל);
אתם מוזמנים להגיב על גבי המסמכים ב-Google Drive, לשלוח לי דוא\ או למלא פנייה באתר.
1 התחלה
1.1 הגדרות
- הסכמה:
- בקורס זה נכנה כל קבוצה שאינה ריקה בשם "מרחב מדגם".
- \(\clubsuit\)
- ההסתברות המתמטית מנסה לפרמל את מה שנקרא בשפת היום-יום "סיכוי"1אם כשאתם שומעים את המילה "סיכוי" עובר לכם משהו בראש - הסתפקו בזה, אני לא רואה צורך להסביר כל מילה שאני משתמש בה; אם אתם מוכרחים להתפלסף - המשיכו לקרוא.
לתפיסתי, המילה "סיכוי" מתייחסת לשני מושגים דומים:- "סיכוי" הוא תכונה שיש למצב נתון, והיא הסיבה לכך שהוא מתפתח למצב אחר. במקרה של הטלת הקובייה לכל מספר יש סיכוי שווה להיות התוצאה, הסיכויים "מתמודדים" ביניהם באופן לא ידוע וה"מנצח" קובע את התוצאה. ההשלכה המעשית לכך שסיכוי אחד גדול מחברו היא שאם נבצע את הניסוי פעמים רבות, אנו מצפים שהסיכוי הגדול יותר "ינצח" פעמים רבות יותר וביחס דומה ליחס שבין שני הסיכויים. אבל, הסיכויים קיימים גם מבלי שנבצע את הניסוי פעמים רבות! הם אלו שגורמים לתוצאות לקרות ביחס המתאים (בערך).
- "סיכוי" הוא חלק מן הדרך הנכונה לחשוב, למה אני מתכוון במילים "הדרך הנכונה לחשוב"? ישנם חוקי היגיון בסיסיים כגון: "אם \(P\) גורר את \(Q\) ו-\(Q\) גורר את \(R\) אז \(P\) גורר את \(R\)", אלו חוקים שלעולם לא יביאו אותנו לידי טעות לבדם מפני שהם פשוט נכונים (כן, גם הקורא המתפלסף מסכים שהחוק שהזכרתי נכון, גם אם הוא לא מודה בזה בפה מלא). לעומתם קיים מה שמכונה "שכל ישר", לדוגמה: כולנו ראינו פעמים רבות שכאשר עוזבים חפץ באוויר הוא נופל, ולכן כולנו מסיקים שאם מחר נעזוב את העט שלנו באוויר הוא ייפול. תמיד יכול לבוא אדם ולומר שהוא לא חושב כך, אך במקרה כזה אומר שהוא "אינו חושב נכון" למרות שאין לי שום דרך להוכיח שאני צודק. השכל הישר עלול להביא אותנו לידי טעות: בדוגמה של העט הנופל ידוע לכולנו שבתחנת החלל הבין-לאומית עטים אינם נופלים כשעוזבים אותם, האם זה אומר שטעינו? אני רוצה לטעון שלא טעינו בדרך אלא רק בתוצאה, חשבנו נכון וקיבלנו טעות - זה לא סותר! בהינתן המידע שהיה לנו לפני שהגענו לחלל זו הייתה המחשבה הנכונה לחשוב, כעת כשיש לנו מידע נוסף ייתכן שנשנה את דעתנו, אך אין זה אומר שטעינו קודם בתהליך החשיבה.
מה כל זה קשור להסתברות? כולנו נסכים שאדם החושש לצאת מביתו שמא יפגע בו ברק אינו "חושב נכון", וזאת משום שלהערכתנו הסיכוי לכך אפסי, כלומר אנו מעריכים את אותו "סיכוי" במשמעותו הקודמת, למרות חוסר הידיעה שלנו בנושא אנחנו מסוגלים לומר בביטחון שזה פשוט לא יקרה. האם כאשר זה קורה לאותו אדם (וזה אכן קורה) נאמר שטעינו? לא ולא! שוב טעינו רק בתוצאה ולא בדרך.
צריך לעדכן את ההערה בעקבות הדוגמה עם הטלפון. , מרחב המדגם הוא קבוצת התוצאות האפשריות של ה"ניסוי" אותו אנו מתעתדים לבצע, והערך של
- \(\clubsuit\)
- לעתים יהיה לנו נוח יותר להגדיר את מרחב המדגם כך שיכלול תוצאות שאינן אפשריות ולומר שהסיכוי של תוצאות אלו הוא \(0\), הדבר דומה לכך שהטווח של פונקציה אינו חלק מזהותה וניתן להחליפו בכל קבוצה המכילה את תמונת הפונקציה.
- תזכורת:
- תהא \(\Omega\) קבוצה, התומך של פונקציה \(p:\Omega\rightarrow\MKreal\) הוא הקבוצה \(\MKsupp\left(p\right):=\left\{ \omega\in\Omega\mid p\left(\omega\right)>0\right\} \).
- \(\clubsuit\)
- כפי שראינו בהקדמה, כדי שהסכום \(\sum_{\omega\in\Omega}p\left(\omega\right)\) יהיה מוגדר, התומך של \(p\) - \(\MKsupp\left(p\right):=\left\{ \omega\in\Omega\mid p\left(\omega\right)>0\right\} \) - צריך להיות סופי או בן-מנייה.
- \(\clubsuit\)
- לא כל פונקציית הסתברות נוצרת ע"י פונקציית הסתברות נקודתית; לדוגמה: הפונקציה המחזירה לכל תת-קטע של \(\left[0,1\right]\) את אורכו, היא פונקציית הסתברות על \(\left(\left[0,1\right],\MKclf\right)\), כאשר \(\MKclf\) אינה קבוצת כל תתי-הקטעים של \(\left[0,1\right]\) אלא סיגמא-אלגברה המכילה את הקבוצה הזו.
- \(\clubsuit\)
- מאורע שהסתברותו היא \(1\) אינו מאורע שמתרחש תמיד (במובן האינטואיטיבי), לדוגמה אם נזרוק מטבע אין-סוף פעמים ההסתברות לקבל פלי באחת מהן היא \(1\) אך ייתכן שלא נקבל לעולם פלי.
הגדרה 1.1. פונקציית הסתברות נקודתית
יהי \(\Omega\) מרחב מדגם, פונקציה \(p:\Omega\rightarrow\MKreal\) תיקרא פונקציית הסתברות נקודתית על \(\Omega\) אם מתקיימים שני התנאים הבאים:
יהי \(\Omega\) מרחב מדגם, פונקציה \(p:\Omega\rightarrow\MKreal\) תיקרא פונקציית הסתברות נקודתית על \(\Omega\) אם מתקיימים שני התנאים הבאים:
- אי-שליליות - לכל \(\omega\in\Omega\) מתקיים \(p\left(\omega\right)\geq0\).
- נרמול - \({\displaystyle \sum_{\omega\in\Omega}p\left(\omega\right)=1}\).
הגדרה. סיגמא-אלגברה
יהי \(\Omega\) מרחב מדגם, קבוצה \(\MKclf\subseteq\MKclp\left(\Omega\right)\) תיקרא סיגמא-אלגברה על \(\Omega\) אם מתקיימים התנאים הבאים:
יהי \(\Omega\) מרחב מדגם, קבוצה \(\MKclf\subseteq\MKclp\left(\Omega\right)\) תיקרא סיגמא-אלגברה על \(\Omega\) אם מתקיימים התנאים הבאים:
- \(\emptyset\in\MKclf\).
- סגירות לאיחוד בן-מנייה - לכל קבוצה בת-מנייה \(\MKcla\subseteq\MKclf\) של איברים זרים בזוגות (כלומר \(A\cap B=\emptyset\) לכל \(A,B\in\MKcla\) כך ש-\(A\neq B\)), מתקיים:\[ \stackrel[A\in\MKcla]{}{\MKbigcupdot}A\in\MKclf \]
- סגירות למשלים - לכל \(A\in\MKclf\) מתקיים \(\Omega\setminus A\in\MKclf\).
לא ראינו את ההגדרה של סיגמא-אלגברה בכיתה, אך כפי שנראה בהמשך כל קבוצת מאורעות על \(\Omega\) היא סיגמא-אלגברה על \(\Omega\).
הגדרה 1.2. פונקציית הסתברות
יהי \(\Omega\) מרחב מדגם, ותהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצת מאורעות על \(\Omega\). פונקציה \(\MKbbp:\MKclf\rightarrow\MKreal\) תיקרא פונקציית הסתברות על \(\left(\Omega,\MKclf\right)\) אם מתקיימים שלושת התנאים הבאים:
יהי \(\Omega\) מרחב מדגם, ותהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצת מאורעות על \(\Omega\). פונקציה \(\MKbbp:\MKclf\rightarrow\MKreal\) תיקרא פונקציית הסתברות על \(\left(\Omega,\MKclf\right)\) אם מתקיימים שלושת התנאים הבאים:
- אי-שליליות - לכל \(A\in\MKclf\) מתקיים \(\MKbbp\left(A\right)\geq0\).
- נרמול - \(\MKbbp\left(\Omega\right)=1\).
- סכימות בת-מנייה - לכל קבוצה בת-מנייה \(X\subseteq\MKclf\) של איברים זרים בזוגות (כלומר \(x\cap y=\emptyset\) לכל \(x,y\in X\) כך ש-\(x\neq y\)), מתקיים:\[ \MKbbp\left(\stackrel[x\in X]{}{\MKbigcupdot}x\right)=\sum_{x\in X}\MKbbp\left(x\right) \]
הגדרה 1.3. מרחב הסתברות
מרחב הסתברות הוא שלשה סדורה \(\left(\Omega,\MKclf,\MKbbp\right)\), כאשר \(\MKbbp\) היא פונקציית הסתברות על הזוג \(\left(\Omega,\MKclf\right)\); בפרט \(\Omega\) אינה ריקה, \(\MKclf\subseteq\MKclp\left(\Omega\right)\) ו-\(\Omega\in\MKclf\).
במקרה כזה \(\Omega\) תיקרא מרחב המדגם ו-\(\MKclf\) תיקרא קבוצת המאורעות; כמו כן נאמר ש-\(\MKbbp\) נתמכת על קבוצה \(A\in\MKclf\) אם \(\MKbbp\left(A\right)=1\).
מרחב הסתברות הוא שלשה סדורה \(\left(\Omega,\MKclf,\MKbbp\right)\), כאשר \(\MKbbp\) היא פונקציית הסתברות על הזוג \(\left(\Omega,\MKclf\right)\); בפרט \(\Omega\) אינה ריקה, \(\MKclf\subseteq\MKclp\left(\Omega\right)\) ו-\(\Omega\in\MKclf\).
במקרה כזה \(\Omega\) תיקרא מרחב המדגם ו-\(\MKclf\) תיקרא קבוצת המאורעות; כמו כן נאמר ש-\(\MKbbp\) נתמכת על קבוצה \(A\in\MKclf\) אם \(\MKbbp\left(A\right)=1\).
טענה. תהא \(p:\Omega\rightarrow\MKreal\) פונקציית הסתברות על \(\Omega\), תהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצות מאורעות של \(\Omega\), ותהא \(\MKbbp_{p}:\MKclf\rightarrow\MKreal\) פונקציה המוגדרת ע"י (לכל \(A\in\MKclf\)):\[
\MKbbp_{p}\left(A\right):=\sum_{a\in A}p\left(a\right)
\]\(\MKbbp_{p}\) היא פונקציית הסתברות על \(\left(\Omega,\MKclf\right)\), והיא נתמכת על \(\MKsupp\left(p\right)\).
הגדרה 1.4. יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות, נאמר שמאורע \(A\in\MKclf\) מתרחש כמעט תמיד אם \(\MKbbp\left(A\right)=1\).
1.2 טענות
טענה 1.5. תהא \(p:\Omega\rightarrow\MKreal\) פונקציית הסתברות על מרחב מדגם \(\Omega\), תהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצות מאורעות של \(\Omega\), ותהא \(\MKbbp_{p}:\MKclf\rightarrow\MKreal\) פונקציה המוגדרת ע"י (לכל \(A\in\MKclf\)):\[
\MKbbp_{p}\left(A\right):=\sum_{a\in A}p\left(a\right)
\]\(\MKbbp_{p}\) היא פונקציית הסתברות על \(\left(\Omega,\MKclf\right)\), והיא נתמכת על \(\MKsupp\left(p\right)\).
- \(\clubsuit\)
- לא כל פונקציית הסתברות נוצרת ע"י פונקציית הסתברות נקודתית; לדוגמה: הפונקציה המחזירה לכל תת-קטע של \(\left[0,1\right]\) את אורכו, היא פונקציית הסתברות על \(\left(\left[0,1\right],\MKclf\right)\), כאשר \(\MKclf\) אינה קבוצת כל תתי-הקטעים של \(\left[0,1\right]\) אלא סיגמא-אלגברה המכילה את הקבוצה הזו.
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות.
טענה 1.6. מתקיימות כל התכונות הבאות:
- הסתברות המאורע הריק - \(\MKbbp\left(\emptyset\right)=0\).
- סכימות (סופית) - לכל \(n\in\MKnatural\) מאורעות זרים בזוגות \(\MKseq A,n\in\MKclf\) מתקיים:\[ \MKbbp\left(\stackrel[k=1]{n}{\MKbigcupdot}A_{k}\right)=\sum_{k=1}^{n}\MKbbp\left(A_{k}\right) \]
- מונוטוניות - לכל שני מאורעות \(A,B\in\MKclf\) כך ש-\(A\subseteq B\) מתקיים \(\MKbbp\left(A\right)\leq\MKbbp\left(B\right)\).
- לכל מאורע \(A\in\MKclf\) מתקיים \(\MKbbp\left(A\right)\leq1\).
- הסתברות המאורע המשלים - לכל מאורע \(A\in\MKclf\) מתקיים \(\MKbbp\left(\Omega\setminus A\right)=1-\MKbbp\left(A\right)\).
משפט 1.7. נוסחת ההכלה וההדחה
יהיו \(\MKseq A,n\in\MKclf\) מאורעות, ולכל \(\emptyset\neq I\subseteq\left[n\right]\) נסמן \({\displaystyle A_{I}:=\bigcap_{i\in I}A_{i}}\). מתקיים:\[ \MKbbp\left(\bigcup_{i=1}^{n}A_{i}\right)=\sum_{k=1}^{n}\left(-1\right)^{k+1}\cdot\left(\sum_{\begin{array}{c} I\subseteq\left[n\right]\\ \left|I\right|=k \end{array}}\MKbbp\left(A_{I}\right)\right)=\sum_{\emptyset\neq I\subseteq\left[n\right]}\left(-1\right)^{\left|I\right|+1}\cdot\MKbbp\left(A_{I}\right) \]
יהיו \(\MKseq A,n\in\MKclf\) מאורעות, ולכל \(\emptyset\neq I\subseteq\left[n\right]\) נסמן \({\displaystyle A_{I}:=\bigcap_{i\in I}A_{i}}\). מתקיים:\[ \MKbbp\left(\bigcup_{i=1}^{n}A_{i}\right)=\sum_{k=1}^{n}\left(-1\right)^{k+1}\cdot\left(\sum_{\begin{array}{c} I\subseteq\left[n\right]\\ \left|I\right|=k \end{array}}\MKbbp\left(A_{I}\right)\right)=\sum_{\emptyset\neq I\subseteq\left[n\right]}\left(-1\right)^{\left|I\right|+1}\cdot\MKbbp\left(A_{I}\right) \]
- \(\clubsuit\)
- בד"כ לא נצטרך את נוסחת ההכלה וההדחה ליותר משלושה מאורעות, לכן נביא כאן את הנוסחה עבור שניים ושלושה מאורעות. לכל שלושה מאורעות \(A,B,C\in\MKclf\) מתקיים:\[ \MKbbp\left(A\cup B\right)=\MKbbp\left(A\right)+\MKbbp\left(B\right)-\MKbbp\left(A\cap B\right) \]\[ \MKbbp\left(A\cup B\cup C\right)=\MKbbp\left(A\right)+\MKbbp\left(B\right)+\MKbbp\left(C\right)-\left(\MKbbp\left(A\cap B\right)+\MKbbp\left(B\cap C\right)+\MKbbp\left(C\cap A\right)\right)+\MKbbp\left(A\cap B\cap C\right) \]
מסקנה 1.8. חסם האיחוד
לכל קבוצת מאורעות סופית/בת-מנייה \(\MKcla\subseteq\MKclf\) מתקיים:\[ \MKbbp\left(\bigcup_{A\in\MKcla}A\right)\leq\sum_{A\in\MKcla}\MKbbp\left(A\right) \]
לכל קבוצת מאורעות סופית/בת-מנייה \(\MKcla\subseteq\MKclf\) מתקיים:\[ \MKbbp\left(\bigcup_{A\in\MKcla}A\right)\leq\sum_{A\in\MKcla}\MKbbp\left(A\right) \]
משפט 1.9. נוסחת ההסתברות השלמה
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKcla\). לכל מאורע \(B\in\MKclf\) מתקיים:\[ \MKbbp\left(B\right)=\sum_{A\in\MKcla}\MKbbp\left(A\cap B\right) \]
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKcla\). לכל מאורע \(B\in\MKclf\) מתקיים:\[ \MKbbp\left(B\right)=\sum_{A\in\MKcla}\MKbbp\left(A\cap B\right) \]
משפט 1.10. רציפות פונקציית ההסתברות
תהא \(\left(A_{n}\right)_{n=1}^{\infty}\) סדרת מאורעות.
תהא \(\left(A_{n}\right)_{n=1}^{\infty}\) סדרת מאורעות.
- אם \(\left(A_{n}\right)_{n=1}^{\infty}\) היא סדרה עולה, כלומר \(A_{n}\subseteq A_{n+1}\) לכל \(n\in\MKnatural\), אז:\[ \MKbbp\left(\bigcup_{n=1}^{\infty}A_{n}\right)=\lim_{n\rightarrow\infty}\MKbbp\left(A_{n}\right) \]
- אם \(\left(A_{n}\right)_{n=1}^{\infty}\) היא סדרה יורדת, כלומר \(A_{n+1}\subseteq A_{n}\) לכל \(n\in\MKnatural\), אז:\[ \MKbbp\left(\bigcap_{n=1}^{\infty}A_{n}\right)=\lim_{n\rightarrow\infty}\MKbbp\left(A_{n}\right) \]
\(\:\)
2 מרחבי הסתברות בדידה
2.1 הגדרות
הגדרה 2.1. פונקציית הסתברות בדידה
יהי \(\Omega\) מרחב מדגם, ותהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצת מאורעות על \(\Omega\). פונקציית הסתברות \(\MKbbp:\MKclf\rightarrow\MKreal\) על \(\left(\Omega,\MKclf\right)\) תיקרא פונקציית הסתברות בדידה אם קיימת פונקציית הסתברות נקודתית \(p:\Omega\rightarrow\MKreal\) כך שלכל \(A\in\MKclf\) מתקיים:\[ \MKbbp\left(A\right)=\sum_{a\in A}p\left(a\right) \]
יהי \(\Omega\) מרחב מדגם, ותהא \(\MKclf\subseteq\MKclp\left(\Omega\right)\) קבוצת מאורעות על \(\Omega\). פונקציית הסתברות \(\MKbbp:\MKclf\rightarrow\MKreal\) על \(\left(\Omega,\MKclf\right)\) תיקרא פונקציית הסתברות בדידה אם קיימת פונקציית הסתברות נקודתית \(p:\Omega\rightarrow\MKreal\) כך שלכל \(A\in\MKclf\) מתקיים:\[ \MKbbp\left(A\right)=\sum_{a\in A}p\left(a\right) \]
האם אנחנו דורשים ש-\(\MKclf=\MKclp\left(\Omega\right)\)?
הגדרה 2.2. מרחב הסתברות בדידה
מרחב הסברות \(\left(\Omega,\MKclf,\MKbbp\right)\) ייקרא מרחב הסתברות בדידה אם \(\MKbbp\) היא פונקציית הסתברות בדידה על \(\left(\Omega,\MKclf\right)\).
במקרה כזה נסמן פעמים רבות את פונקצייתה ההסתברות ב-\(\MKbbp_{p}\) כדי לציין ש-\(p:\Omega\rightarrow\MKreal\) היא פונקציית הסתברות נקודתית המקיימת (לכל \(A\in\MKclf\)):\[ \MKbbp_{p}\left(A\right)=\sum_{a\in A}p\left(a\right) \]
מרחב הסברות \(\left(\Omega,\MKclf,\MKbbp\right)\) ייקרא מרחב הסתברות בדידה אם \(\MKbbp\) היא פונקציית הסתברות בדידה על \(\left(\Omega,\MKclf\right)\).
במקרה כזה נסמן פעמים רבות את פונקצייתה ההסתברות ב-\(\MKbbp_{p}\) כדי לציין ש-\(p:\Omega\rightarrow\MKreal\) היא פונקציית הסתברות נקודתית המקיימת (לכל \(A\in\MKclf\)):\[ \MKbbp_{p}\left(A\right)=\sum_{a\in A}p\left(a\right) \]
הגדרה 2.3. מרחב הסתברות אחידה
מרחב הסתברות בדידה \(\left(\Omega,\MKclf,\MKbbp_{p}\right)\) ייקרא מרחב הסתברות אחידה אם לכל \(\omega_{1},\omega_{2}\in\Omega\) מתקיים \(p\left(\omega_{1}\right)=p\left(\omega_{2}\right)\).
מרחב הסתברות בדידה \(\left(\Omega,\MKclf,\MKbbp_{p}\right)\) ייקרא מרחב הסתברות אחידה אם לכל \(\omega_{1},\omega_{2}\in\Omega\) מתקיים \(p\left(\omega_{1}\right)=p\left(\omega_{2}\right)\).
טענה 2.4. יהיו \(\MKseq{\Omega},n\) מרחבי מדגם, תהא \(p_{0}:\Omega_{1}\rightarrow\MKreal\) פונקציית הסתברות נקודתית, ולכל \(n>k\in\MKnatural\) ו-\(\left(\MKseq{\omega},k\right)\in\MKseq{\Omega}{\times}k\) תהא גם \(p_{\MKseq{\omega},k}:\Omega_{k+1}\rightarrow\MKreal\) היא פונקציית הסתברות נקודתית.
הפונקציה \(p:\MKseq{\Omega}{\times}n\rightarrow\MKreal\), המוגדרת ע"י (לכל \(\left(\MKseq{\omega},n\right)\in\Omega\)):\[ p\left(\MKseq{\omega},n\right):=p_{0}\left(\omega_{1}\right)\cdot\prod_{k=1}^{n-1}p_{\MKseq{\omega},k}\left(\omega_{k+1}\right) \]היא פונקציית הסתברות נקודתית על \(\MKseq{\Omega}{\times}n\).
הפונקציה \(p:\MKseq{\Omega}{\times}n\rightarrow\MKreal\), המוגדרת ע"י (לכל \(\left(\MKseq{\omega},n\right)\in\Omega\)):\[ p\left(\MKseq{\omega},n\right):=p_{0}\left(\omega_{1}\right)\cdot\prod_{k=1}^{n-1}p_{\MKseq{\omega},k}\left(\omega_{k+1}\right) \]היא פונקציית הסתברות נקודתית על \(\MKseq{\Omega}{\times}n\).
- \(\clubsuit\)
- מבחינה אינטואיטיבית מה שקורה כאן הוא כזה: אנחנו מבצעים את הניסוי של מרחב ההסתברות \(\left(\Omega_{1},\MKclp\left(\Omega_{1}\right),\MKbbp_{p_{0}}\right)\) (לדוגמה: הטלת קובייה), ולפי התוצאה מחליטים איזה ניסוי לבצע בשלב הבא (בכך אנחנו מגדירים מרחב הסתברות חדש - \(\left(\Omega_{2},\MKclp\left(\Omega_{2}\right),\MKbbp_{p_{\omega_{1}}}\right)\)), וחוזר חלילה.
הגדרה 2.5. ניסוי רב-שלבי
מרחב הסתברות בדידה \(\left(\Omega,\MKclf,\MKbbp_{q}\right)\) ייקרא ניסוי רב-שלבי אם פונקציית ההסתברות הנקודתית \(q\) ניתנת להצגה שבטענה האחרונה (2.4).
מרחב הסתברות בדידה \(\left(\Omega,\MKclf,\MKbbp_{q}\right)\) ייקרא ניסוי רב-שלבי אם פונקציית ההסתברות הנקודתית \(q\) ניתנת להצגה שבטענה האחרונה (2.4).
הגדרה 2.6. מרחב מכפלה
יהיו \(\left(\Omega_{1},\MKclf_{1},\MKbbp_{1}\right),\left(\Omega_{2},\MKclf_{2},\MKbbp_{2}\right),\ldots,\left(\Omega_{n},\MKclf_{n},\MKbbp_{n}\right)\) מרחבי הסתברות בדידה, ולכל \(n\geq i\in\MKnatural\) נסמן ב-\(p_{i}\) את פונקציית ההסתברות הנקודתית המתאימה.
יהיו \(\left(\Omega_{1},\MKclf_{1},\MKbbp_{1}\right),\left(\Omega_{2},\MKclf_{2},\MKbbp_{2}\right),\ldots,\left(\Omega_{n},\MKclf_{n},\MKbbp_{n}\right)\) מרחבי הסתברות בדידה, ולכל \(n\geq i\in\MKnatural\) נסמן ב-\(p_{i}\) את פונקציית ההסתברות הנקודתית המתאימה.
- המכפלה הנקודתית של פונקציות ההסתברות הנ"ל היא הפונקציה \(p:\MKseq{\Omega}{\times}n\rightarrow\MKreal\) המוגדרת ע"י (לכל \(\left(\MKseq{\omega},n\right)\in\Omega\)):\[ p\left(\MKseq{\omega},n\right):=\prod_{k=1}^{n}p_{k}\left(\omega_{k}\right) \]
- מרחב המכפלה של המרחבים הנ"ל הוא מרחב ההסתברות \(\left(\MKseq{\Omega}{\times}n,\MKseq{\MKclf}{\times}n,\MKbbp_{p}\right)\) (עבור \(p\) הנ"ל).
- מאורעות מכפלה במרחב המכפלה הנ"ל הם מאורעות מהצורה \(\MKseq A{\times}n\) כאשר \(A_{k}\in\MKclf_{k}\) לכל \(k\in\MKnatural\).
- מאורעות שוליים במרחב המכפלה הנ"ל הם מאורעות מהצורה \(A_{1}\times A_{2}\times\ldots\times A_{j-1}\times B\times A_{j+1}\ldots\times A_{n}\), כאשר \(A_{k}\in\MKclf_{k}\) לכל \(j\neq k\in\MKnatural\) ו-\(B\in\MKclf_{j}\).
2.2 טענות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות.
טענה 2.7. אם \(\left(\Omega,\MKclf,\MKbbp\right)\) הוא מרחב הסתברות אחידה, לכל לכל \(A\in\MKclf\) מתקיים \(\MKbbp_{p}\left(A\right)=\frac{\left|A\right|}{\left|\Omega\right|}\).
מסקנה 2.8. מרחב המדגם של מרחב הסתברות אחידה הוא סופי.
טענה 2.9. יהיו \(\left(\Omega_{1},\MKclf_{1},\MKbbp_{1}\right),\left(\Omega_{2},\MKclf_{2},\MKbbp_{2}\right),\ldots,\left(\Omega_{n},\MKclf_{n},\MKbbp_{n}\right)\) מרחבי הסתברות בדידה, ויהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב המכפלה שלהם.
לכל \(\left(\MKseq A,n\right)\in\MKclf\) מתקיים:\[ \MKbbp\left(\MKseq A{\times}n\right)=\prod_{k=1}^{n}\MKbbp_{k}\left(A_{k}\right) \]
לכל \(\left(\MKseq A,n\right)\in\MKclf\) מתקיים:\[ \MKbbp\left(\MKseq A{\times}n\right)=\prod_{k=1}^{n}\MKbbp_{k}\left(A_{k}\right) \]
משפט 2.10. נניח ש-\(\left\{ \omega\right\} \in\MKclf\) לכל \(\omega\in\Omega\). התנאים הבאים שקולים:
- \(\left(\Omega,\MKclf,\MKbbp\right)\) הוא מרחב הסתברות בדידה.
- \(\MKbbp\) נתמכת על קבוצה בת-מנייה או סופית.
- לכל מאורע \(A\in\MKclf\) מתקיים \(\MKbbp\left(A\right)=\sum_{\omega\in\MKclf}\MKbbp\left(\left\{ \omega\right\} \right)\).
- \(\sum_{\omega\in\Omega}\MKbbp\left(\left\{ \omega\right\} \right)=1\).
מסקנה 2.11. אם מרחב המדגם \(\Omega\) בן-מנייה אז \(\left(\Omega,\MKclf,\MKbbp\right)\) הוא מרחב הסתברות בדידה.
3 הסתברות מותנית ואי-תלות
3.1 הגדרות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות.
הגדרה 3.1. הסתברות מותנית
לכל שני מאורעות \(A,B\in\MKclf\) כך ש-\(\MKbbp\left(B\right)>0\), ההסתברות המותנית של \(A\) בהינתן \(B\) היא:\[ \MKbbp\left(A\mid B\right):=\MKbbp_{B}\left(A\right):=\frac{\MKbbp\left(A\cap B\right)}{\MKbbp\left(B\right)} \]
לכל שני מאורעות \(A,B\in\MKclf\) כך ש-\(\MKbbp\left(B\right)>0\), ההסתברות המותנית של \(A\) בהינתן \(B\) היא:\[ \MKbbp\left(A\mid B\right):=\MKbbp_{B}\left(A\right):=\frac{\MKbbp\left(A\cap B\right)}{\MKbbp\left(B\right)} \]
- \(\clubsuit\)
- המשמעות האינטואיטיבית היא שהתבצע "ניסוי" במרחב ההסתברות \(\left(\Omega,\MKclf,\MKbbp\right)\), נודע לנו שמאורע \(B\) אכן אירע, ואנו שואלים מהי ההסתברות שמאורע \(A\) אירע. הדרך שלנו לבצע זאת היא "לעדכן" את מרחב ההסתברות - כעת "מרחב המדגם" שלנו הוא \(B\) וה"מאורעות" הם החיתוכים של המאורעות במרחב ההסתברות המקורי עם מרחב המדגם החדש. מבחינה פורמלית אנחנו לא באמת מתבוננים במרחב הסתברות חדש אלא "מנרמלים" את פונקציית ההסתברות מחדש כך שיתקיים \(\MKbbp_{B}\left(B\right)=1\) במקום \(\MKbbp\left(\Omega\right)=1\).
- \(\clubsuit\)
- למעשה היינו רוצים להגדיר ש-\(A\) בלתי-תלוי ב-\(B\) אם \(\MKbbp\left(A\mid B\right)=\MKbbp\left(A\right)\) ואכן ההגדרות שקולות למעט במקרה שבו \(\MKbbp\left(B\right)=0\) (אם מגדירים כפי שהצענו לעיל אז ההגדרות שקולות לחלוטין).
- \(\clubsuit\)
- למעשה, היינו רוצים לומר ש-\(A\) בלתי-תלוי ב-\(\MKseq B,n\) אם לכל קומבינציה של איחודים וחיתוכים (כולל סוגריים) על חלק/כל המאורעות \(\MKseq B,n\), \(A\) ואותה קומבינציה בלתי-תלויים. אלו הגדרות שקולות.
- \(\clubsuit\)
- האיבר ה"אדיש" לחיתוך הוא הקבוצה הגדולה שבה אנו עובדים ולכן \(\bigcap_{i\in\emptyset}A_{i}:=\Omega\).
- \(\clubsuit\)
- אי-תלות גוררת אי-תלות בזוגות אך ההפך אינו נכון.
יהיה הרבה יותר הגיוני ונוח להגדיר גם עבור \(\MKbbp\left(B\right)=0\) ע"י:\[
\MKbbp\left(A\mid B\right):=\MKbbp_{B}\left(A\right):=\begin{cases}
\frac{\MKbbp\left(A\cap B\right)}{\MKbbp\left(B\right)} & \MKbbp\left(B\right)>0\\
0 & \MKbbp\left(B\right)=0
\end{cases}
\]
הגדרה 3.2. אי-תלות
נאמר ששני מאורעות \(A,B\in\MKclf\) הם בלתי-תלויים אם \(\MKbbp\left(A\cap B\right)=\MKbbp\left(A\right)\cdot\MKbbp\left(B\right)\).
נאמר ששני מאורעות \(A,B\in\MKclf\) הם בלתי-תלויים אם \(\MKbbp\left(A\cap B\right)=\MKbbp\left(A\right)\cdot\MKbbp\left(B\right)\).
מסקנה 3.3. לכל שני מאורעות בלתי-תלויים \(A,B\in\MKclf\) מתקיים:
- אם \(\MKbbp\left(B\right)>0\) אז \(\MKbbp\left(A\mid B\right)=\MKbbp\left(A\right)\).
- אם \(\MKbbp\left(A\right)>0\) אז \(\MKbbp\left(B\mid A\right)=\MKbbp\left(B\right)\).
הגדרה 3.4. נאמר שמאורעות \(\MKseq A,n\in\MKclf\) בלתי-תלויים בזוגות אם לכל \(n\geq i,j\in\MKnatural\) כך ש-\(i\neq j\) המאורעות \(A_{i}\) ו-\(A_{j}\) בלתי-תלויים.
הגדרה 3.5. נאמר שמאורע \(A\in\MKclf\) בלתי-תלוי במאורעות \(\MKseq B,n\in\MKclf\) אם לכל \(I\subseteq\left[n\right]\) המאורעות \(A\) ו-\({\displaystyle \bigcap_{i\in I}B_{i}}\) בלתי-תלויים.
הגדרה 3.6. נאמר שמאורעות \(\MKseq A,n\in\MKclf\) בלתי-תלויים אם לכל \(I\subseteq\left[n\right]\) מתקיים:\[
\MKbbp\left(\bigcap_{i\in I}A_{i}\right)=\prod_{i\in I}\MKbbp\left(A_{i}\right)
\]
הגדרה 3.7. נאמר שקבוצת מאורעות \(\MKcla\subseteq\MKclf\) (לאו דווקא סופית) היא בלתי-תלויה אם כל \(\MKseq A,n\in\MKcla\) הם בלתי-תלויים.
מסקנה 3.8. תת-קבוצה של קבוצה בלתי-תלויה גם היא כזו.
הגדרה 3.9. יהיו \(A,B\in\MKclf\) שני מאורעות, נאמר ש-\(B\) מאושש את \(A\) אם \(\MKbbp\left(A\mid B\right)>\MKbbp\left(A\right)\).
3.2 טענות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות.
מסקנה 3.10. נוסחת ההסתברות השלמה - נוסח נוסף
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKcla\). לכל מאורע \(B\in\MKclf\) מתקיים:\[ \MKbbp\left(B\right)=\sum_{A\in\MKcla'}\MKbbp\left(A\right)\cdot\MKbbp\left(B\mid A\right) \]כאשר \(\MKcla':=\left\{ A\in A\mid\MKbbp\left(A\right)>0\right\} \).
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKcla\). לכל מאורע \(B\in\MKclf\) מתקיים:\[ \MKbbp\left(B\right)=\sum_{A\in\MKcla'}\MKbbp\left(A\right)\cdot\MKbbp\left(B\mid A\right) \]כאשר \(\MKcla':=\left\{ A\in A\mid\MKbbp\left(A\right)>0\right\} \).
טענה 3.11. לכל מאורע \(A\in\MKclf\), הפונקציה \(\MKbbp_{A}:\MKclf\rightarrow\MKreal\) (כזכור \(\MKbbp_{A}\left(X\right):=\MKbbp\left(X\mid A\right)\) לכל \(X\in\MKclf\)), היא פונקציית הסתברות על \(\left(\Omega,\MKclf\right)\).
טענה 3.12. יהיו \(A,B\in\MKclf\) שני מאורעות, ותהיינה \(\MKbbp',\MKbbp'':\MKclf\rightarrow\MKreal\) הפונקציות המוגדרות ע"י (לכל \(X\in\MKclf\)):\[\begin{align*}
\MKbbp'\left(X\right) & :=\MKbbp_{A}\left(X\right)=\MKbbp\left(X\mid A\right)\\
\MKbbp''\left(X\right) & :=\MKbbp'_{B}\left(X\right)=\MKbbp'\left(X\mid B\right)=\MKbbp_{A}\left(X\mid B\right)
\end{align*}\]לכל \(X\in\MKclf\) מתקיים \(\MKbbp''\left(X\right)=\MKbbp\left(X\mid A\cap B\right)\).
- \(\clubsuit\)
- כלומר אין משמעות לסדר שבו מתנים את המאורעות.
- \(\clubsuit\)
- למעשה ניתן להחליף בטענה את \(\Omega\) בכל מאורע בעל הסתברות \(1\), ואת \(\emptyset\) בכל מאורע בעל הסתברות \(0\).
משפט 3.13. חוק בייס2ערך בוויקיפדיה: תומאס בייס.\(\:\)
לכל שני מאורעות \(A,B\in\MKclf\) כך ש-\(\MKbbp\left(A\right),\MKbbp\left(B\right)>0\) מתקיים:\[ \MKbbp\left(A\mid B\right)=\frac{\MKbbp\left(B\right)}{\MKbbp\left(A\right)}\cdot\MKbbp\left(B\mid A\right) \]
לכל שני מאורעות \(A,B\in\MKclf\) כך ש-\(\MKbbp\left(A\right),\MKbbp\left(B\right)>0\) מתקיים:\[ \MKbbp\left(A\mid B\right)=\frac{\MKbbp\left(B\right)}{\MKbbp\left(A\right)}\cdot\MKbbp\left(B\mid A\right) \]
טענה 3.14. יהיו \(\left(\Omega_{1},\MKclf_{1},\MKbbp_{1}\right)\) ו-\(\left(\Omega_{2},\MKclf_{2},\MKbbp_{2}\right)\) מרחבי הסתברות.
לכל \(A\in\MKclf_{1}\) ולכל \(B\in\MKclf_{2}\), המאורעות \(A\times\Omega_{2}\) ו-\(\Omega_{1}\times B\) (במרחב המכפלה) הם בלתי-תלויים.
לכל \(A\in\MKclf_{1}\) ולכל \(B\in\MKclf_{2}\), המאורעות \(A\times\Omega_{2}\) ו-\(\Omega_{1}\times B\) (במרחב המכפלה) הם בלתי-תלויים.
טענה 3.15. יהיו \(A,B\in\MKclf\) שני מאורעות.
- אם \(A\) ו-\(B\) בלתי-תלויים אז גם \(A\) ו-\(B^{c}\) הם מאורעות בלתי-תלויים.
- \(A\) ו-\(\Omega\) הם מאורעות בלתי-תלויים, וכמו כן \(A\) ו-\(\emptyset\) הם מאורעות בלתי-תלויים.
טענה 3.16. יהי \(A\in\MKclf\) מאורע ותהא \(\left\{ \MKseq B,n\right\} \subseteq\MKclf\) קבוצת מאורעות, \(A\) בלתי-תלוי ב-\(\left\{ \MKseq B,n\right\} \) אם"ם \(A\) בלתי-תלוי ב-\(\left\{ \MKseq B,n,B_{1}^{c},B_{2}^{c},\ldots,B_{n}^{c}\right\} \).
טענה 3.17. תהא \(\MKcla:=\left\{ \MKseq A,n\right\} \subseteq\MKclf\) קבוצת מאורעות, \(\MKcla\) היא קבוצה בלתי-תלויה אם"ם \(A_{i}\) בלתי-תלוי ב-\(\MKcla\setminus\left\{ A_{i}\right\} \) לכל \(n\geq i\in\MKnatural\).
טענה 3.18. לכל סדרת מאורעות בלתי-תלויים3קבוצת איברי הסדרה בלתי-תלויה. \(\left(A_{n}\right)_{n=1}^{\infty}\)מתקיים:\[
\MKbbp\left(\bigcap_{n=1}^{\infty}A_{n}\right)=\prod_{n=1}^{\infty}\MKbbp\left(A_{n}\right)
\]
4 משתנים מקריים בדידים
4.1 הגדרות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות, תהא \(E\) קבוצה לא ריקה, ותהא \(\MKclf_{E}\) קבוצת מאורעות על \(E\).
התחלה
- \(\clubsuit\)
- עד כה, בכל פעם שרצינו לתאר שתי שאלות הסתברותיות שונות, היינו צריכים להגדיר שתי פונקציות הסתברות שונות אפילו אם מבחינה מעשית שתי השאלות חלו על אותו "ניסוי". לדוגמה: מטילים שתי קוביות, מהי ההסתברות שבאחת הקוביות יצא המספר \(2\)? ומהי ההסתברות שסכום המספרים שיצאו הוא \(2\)?
זה היה די מייגע, ולכן נרצה למצוא דרך לפרמל שתי שאלות על אותו "ניסוי" ע"י מרחב הסתברות יחיד, הדרך לכך היא הגדרת משתנים מקריים. - \(\clubsuit\)
- כך למשל במקרה של הטלת שתי הקוביות נשתמש בפונקציית ההסתברות האחידה \(\MKbbp:\left[6\right]^{2}\rightarrow\MKreal\) על \(\left(\left[6\right]^{2},\MKclp\left(\left[6\right]^{2}\right)\right)\), ונגדיר שני משתנים מקריים:\[\begin{align*} X\left(\left(\omega_{1},\omega_{2}\right)\right) & :=\begin{cases} 1 & \omega_{1}=2\lor\omega_{2}=2\\ 0 & \text{אחרת} \end{cases}\\ Y\left(\left(\omega_{1},\omega_{2}\right)\right) & :=\omega_{1}+\omega_{2} \end{align*}\]כעת ההסתברות לכך שבאחת משתי הקוביות יצא \(2\) היא \(\MKbbp\left(X^{-1}\left(\left\{ 1\right\} \right)\right)\), וההסתברות לכך שסכום שתי הקוביות הוא \(2\) היא \(\MKbbp\left(Y^{-1}\left(\left\{ 2\right\} \right)\right)\).
- \(\clubsuit\)
- עוד דבר מייגע שהיה בשיטה הקודמת הוא שבכל פעם שרצינו לדבר על מאורע היינו צריכים להגדיר קבוצה שתתאר את אותו מאורע, כאשר הרבה יותר נוח לכתוב פסוק המתאר את המאורע.
- תזכורת:
- משפט (או טענה) הוא פסוק שמנוסח באופן כללי ע"י שימוש במשתנה שאינו מוגדר, ורק לאחר שמגדירים את המשתנה הופך המשפט לפסוק. לדוגמה: \(x^{2}=x\) אינו פסוק (שכן \(x\) אינו מוגדר), אך הוא אכן משפט.
- סימון:
- לכל משפט \(P\) נתייחס ל-\(P\) כמאורע \(\left\{ \omega\in\Omega\mid P\left(\omega\right)=\MKtrue\right\} \) (ניתן להבדיל בין שתי המשמעויות לפי ההקשר).
- \(\clubsuit\)
- בדרך כלל נשתמש בסימון זה יחד עם משתנים מקריים, כך לדוגמה ההסתברות \(\MKbbp\left(X^{-1}\left(\left\{ 1\right\} \right)\right)\) שהוזכרה לעיל ניתנת לתיאור באמצעות \(\MKbbp\left(X=1\right)\).
- הסכמה:
- בהינתן קבוצות \(A\) ו-\(B\), ופונקציה \(f:A\rightarrow B^{n}\), נסמן ב-\(\MKseq f,n\) את הפונקציות המקיימות (לכל \(a\in A\)):\[ f\left(a\right)=\begin{bmatrix}f_{1}\left(a\right)\\ f_{2}\left(a\right)\\ \vdots\\ f_{n}\left(a\right) \end{bmatrix} \]ולהפך, בהינתן פונקציות \(\MKseq f,n:A\rightarrow B\), כשנסמן \(g:=\left(\MKseq f,n\right)\) כוונתנו ש-\(g\) היא פונקציה מ-\(A\) ל-\(B^{n}\) המוגדרת ע"י (לכל \(a\in A\)):\[ g\left(a\right):=\begin{bmatrix}f_{1}\left(a\right)\\ f_{2}\left(a\right)\\ \vdots\\ f_{n}\left(a\right) \end{bmatrix} \]
הגדרה 4.1. משתנה מקרי
נאמר שפונקציה \(X:\Omega\rightarrow E\) היא משתנה מקרי אם מתקיים \(X^{-1}\left(S\right)\in\MKclf\) לכל \(S\in\MKclf_{E}\); במקרה שבו \(E=\MKreal^{n}\) (\(n\in\MKnatural\)) נאמר גם ש-\(X\) הוא וקטור מקרי.
נאמר שפונקציה \(X:\Omega\rightarrow E\) היא משתנה מקרי אם מתקיים \(X^{-1}\left(S\right)\in\MKclf\) לכל \(S\in\MKclf_{E}\); במקרה שבו \(E=\MKreal^{n}\) (\(n\in\MKnatural\)) נאמר גם ש-\(X\) הוא וקטור מקרי.
בכיתה הגדרנו זאת רק כאשר \(E=\MKreal^{n}\) עבור \(n\in\MKnatural\) כלשהו (\(\MKreal\cong\MKreal^{1}\)), ובנוסף לא דרשנו שיתקיים \(X^{-1}\left(S\right)\in\MKclf\) לכל \(S\in\MKclf_{E}\) למרות שאנחנו נראה כבר בהגדרה הבאה שאנו מניחים שזה אכן נכון.
יהיו \(X,Y:\Omega\rightarrow E\) משתנים מקריים.
הגדרה 4.2. התפלגות
הפונקציה \(\MKbbp_{X}:\MKclf_{E}\rightarrow\MKreal\) המוגדרת ע"י (לכל \(S\in\MKclf_{E}\)):\[ \MKbbp_{X}\left(S\right):=\MKbbp\left(X^{-1}\left(S\right)\right)=\MKbbp\left(X\in S\right) \]נקראת ההתפלגות של \(X\).
הפונקציה \(\MKbbp_{X}:\MKclf_{E}\rightarrow\MKreal\) המוגדרת ע"י (לכל \(S\in\MKclf_{E}\)):\[ \MKbbp_{X}\left(S\right):=\MKbbp\left(X^{-1}\left(S\right)\right)=\MKbbp\left(X\in S\right) \]נקראת ההתפלגות של \(X\).
הגדרה 4.3. יהי \(Z:\Omega\rightarrow E^{n}\) משתנה מקרי, \(\MKbbp_{Z}\) תיקרא ההתפלגות המשותפת של \(\MKseq Z,n\), ו-\(\MKbbp_{Z_{1}},\MKbbp_{Z_{2}},\ldots,\MKbbp_{Z_{n}}\) תיקראנה ההתפלגויות השוליות של \(Z\).
טענה. לכל משתנה מקרי \(X:\Omega\rightarrow E\), פונקציית ההתפלגות \(\MKbbp_{X}\) היא פונקציית הסתברות על \(\left(E,\MKclf_{E}\right)\), כלומר \(\left(E,\MKclf_{E},\MKbbp_{X}\right)\) הוא מרחב הסתברות.
הגדרה 4.4. משתנה מקרי בדיד
\(X\) ייקרא בדיד אם פונקציית ההתפלגות שלו (\(\MKbbp_{X}\)) היא פונקציית הסתברות בדידה.
במקרה כזה פונקציית ההסתברות הנקודתית המתאימה ל-\(\MKbbp_{X}\), שתסומן ב-\(p_{X}\), תיקרא ההתפלגות הנקודתית של \(X\); והתומך של \(p_{X}\), שיסומן ב-\(\MKsupp\left(X\right)\) ייקרא גם התומך של \(X\).
\(X\) ייקרא בדיד אם פונקציית ההתפלגות שלו (\(\MKbbp_{X}\)) היא פונקציית הסתברות בדידה.
במקרה כזה פונקציית ההסתברות הנקודתית המתאימה ל-\(\MKbbp_{X}\), שתסומן ב-\(p_{X}\), תיקרא ההתפלגות הנקודתית של \(X\); והתומך של \(p_{X}\), שיסומן ב-\(\MKsupp\left(X\right)\) ייקרא גם התומך של \(X\).
הגדרה 4.5. \(\:\)
- נאמר ש-\(X\) ו-\(Y\) שווים כמעט תמיד אם \(\MKbbp\left(X=Y\right)=1\), במקרה כזה נסמן \(X\MKalmsur Y\).
ובאופן כללי, נאמר ש-\(X\) ו-\(Y\) מקיימים יחס \(\sim\) כמעט תמיד, ונסמן \(X\overset{\text{a.s.}}{\sim}Y\) אם \(\MKbbp\left(X\sim Y\right)=1\). - נאמר ש-\(X\) ו-\(Y\) שווי-התפלגות אם \(\MKbbp_{X}=\MKbbp_{Y}\), במקרה כזה נסמן \(X\MKdist Y\).
הסתברות מותנית ואי-תלות
- סימון:
- יהי \(A\in\MKclf\) מאורע (או משפט המייצג מאורע כדלעיל) כך ש-\(\MKbbp\left(A\right)>0\), כשנכתוב \(X\mid A\) נתכוון ל-\(X\) כמשתנה מקרי מעל מרחב ההסתברות \(\left(\Omega,\MKclf,\MKbbp_{A}\right)\). בפרט ההתפלגות של \(X\mid A\) היא (לכל \(E\in\MKclf_{E}\)):\[ \MKbbp_{X\mid A}\left(S\right)=\MKbbp_{A}\left(X\in S\right) \]
בכיתה הגדרנו קודם את ההתפלגות ורק אח"כ אמרנו ש-\(X\mid A\) הוא בעצם המשתנה המקרי \(X\) על מרחב ההסתברות \(\left(\Omega,\MKclf,\MKbbp_{A}\right)\).
הגדרה 4.6. נאמר שמשתנים מקריים \(\MKseq X,n:\Omega\rightarrow E\) בלתי-תלויים אם לכל \(\MKseq S,n\in\MKclf_{E}\) המאורעות \(X_{1}\in S_{1},X_{2}\in S_{2},\ldots,X_{n}\in S_{n}\) בלתי-תלויים.
הגדרה 4.7. נאמר שקבוצת משתנים מקריים \(\MKcla\subseteq E^{\Omega}\) (לאו דווקא סופית) היא בלתי-תלויה אם כל תת-קבוצה סופית של \(\MKcla\) היא בלתי-תלויה.
התפלגויות נפוצות
- תזכורת:
- הפונקציה המציינת של קבוצה \(A\) המוכלת בקבוצה \(B\) (ביחס ל-\(B\)), היא הפונקציה \(\chi_{A}:B\rightarrow\left\{ 0,1\right\} \) המוגדרת ע"י (לכל \(b\in B\)):\[ \chi_{A}\left(b\right):=\begin{cases} 1 & b\in A\\ 0 & b\notin A \end{cases} \]סימון מקובל נוסף לפונקציה המציינת הוא \(\MKindicator_{A}\).
הגדרה 4.8. משתנה מציין של מאורע \(A\in\MKclf\) הוא הפונקציה המציינת של \(A\).
הגדרה 4.9. \(\:\)
- נאמר ש-\(X\) בעל התפלגות קבועה אם קיים \(c\in E\) כך ש-\(\MKbbp\left(X=c\right)=1\).
- נאמר ש-\(X\) בעל התפלגות אחידה על קבוצה סופית \(S\subseteq E\), ונסמן \(X\sim\MKunif\left(S\right)\), אם לכל \(s\in S\) מתקיים \(\MKbbp\left(X=s\right)=\frac{1}{\left|S\right|}\).
- נניח ש-\(E=\MKreal\); נאמר ש-\(X\) בעל התפלגות ברנולי עם הסתברות הצלחה \(p\in\left[0,1\right]\), ונסמן \(X\sim\MKber\left(p\right)\), אם \(\MKbbp\left(X=1\right)=p\) ו-\(\MKbbp\left(X=0\right)=1-p\).
- נניח ש-\(E=\MKreal\); נאמר ש-\(X\) בעל התפלגות גאומטרית עם הסתברות הצלחה \(p\in\left[0,1\right]\), ונסמן \(X\sim\MKgeo\left(p\right)\), אם לכל \(n\in\MKnatural\) מתקיים \(\MKbbp\left(X=n\right)=\left(1-p\right)^{n}\cdot p\).
- נניח ש-\(E=\MKreal\); נאמר ש-\(X\) בעל התפלגות בינומית עם \(n\) ניסיונות והסתברות הצלחה \(p\in\left[0,1\right]\), ונסמן \(X\sim\MKbin\left(n,p\right)\), אם לכל \(k\in\MKnatural_{0}\) מתקיים \(\MKbbp\left(X=k\right)={n \choose k}p^{k}\left(1-p\right)^{n-k}\).
- נניח ש-\(E=\MKreal\); נאמר ש-\(X\) בעל התפלגות פואסון עם שכיחות \(0\leq\lambda\in\MKreal\), ונסמן \(X\sim\MKpoi\left(\lambda\right)\), אם לכל \(k\in\MKnatural_{0}\) מתקיים \(\MKbbp\left(X=k\right)=e^{-\lambda}\cdot\frac{\lambda^{k}}{k!}\).
- נניח ש-\(E=\MKreal\); נאמר ש-\(X\) בעל התפלגות היפר-גאומטרית עם \(n\) ניסיונות, \(a\) הצלחות אפשריות ו-\(b\) כישלונות אפשריים ונסמן \(X\sim\MKhypergeo\left(n,a,b\right)\), אם לכל \(n\geq k\in\MKnatural\) מתקיים:\[ \MKbbp\left(X=k\right)=\frac{{a \choose k}\cdot{b \choose n-k}}{{a+b \choose n}} \]
4.2 טענות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות, תהא \(E\) קבוצה לא ריקה, ותהא \(\MKclf_{E}\) קבוצת מאורעות על \(E\).
התחלה
יהיו \(X,Y:\Omega\rightarrow E\) משתנים מקריים.
טענה 4.10. פונקציית ההתפלגות \(\MKbbp_{X}\) היא פונקציית הסתברות על \(\left(\MKreal,\MKclf_{E}\right)\), כלומר \(\left(E,\MKclf_{E},\MKbbp_{X}\right)\) הוא מרחב הסתברות.
טענה 4.11. אם \(X\MKalmsur Y\) אז \(X\MKdist Y\).
טענה 4.12. אם \(X\MKdist Y\) אז לכל פונקציה \(f:E\rightarrow E\) מתקיים \(f\circ X\MKdist f\circ Y\).
טענה 4.13. יהי \(Z:\Omega\rightarrow E^{n}\) משתנה מקרי, \(Z\) הוא משתנה מקרי בדיד אם"ם \(\MKseq Z,n\) הם משתנים מקריים בדידים.
הסתברות מותנית ואי-תלות
טענה 4.14. אם \(X\MKdist Y\) אז לכל \(S\in\MKclf_{E}\) כך ש-\(\MKbbp\left(X\in S\right)>0\) מתקיים \(X\mid X\in S\MKdist Y\mid Y\in S\).
טענה 4.15. אם לכל \(x_{1},x_{2}\in E\) מתקיים \(\left(Y\mid X=x_{1}\right)\MKdist\left(Y\mid X=x_{2}\right)\) אז \(X\) ו-\(Y\) בלתי-תלויים ולכל \(x\in E\) מתקיים \(Y\MKdist\left(Y\mid X=x\right)\).
יהיו \(\MKseq X,k:\Omega\rightarrow E\) משתנים מקריים.
טענה 4.16. נניח ש-\(\MKseq X,k\) בדידים, במקרה כזה \(\MKseq X,k\) בלתי-תלויים אם"ם לכל \(\MKseq X,k\in E\) מתקיים:\[
\MKbbp\left(\forall k\geq i\in\MKnatural\ X_{i}=x_{i}\right)=\prod_{i=1}^{k}\MKbbp\left(X_{i}=x_{i}\right)
\]
מסקנה 4.17. נניח ש-\(\MKseq X,k\) בדידים4מסקנה זו נכונה גם עבור משתנים מקריים שאינם בדידים, אלא שלצורך ההוכחה שלה במקרה זה יש צורך בתורת המידה., אם \(\MKseq X,k\) בלתי-תלויים אז ההתפלגות המשותפת שלהם נקבעת ביחידות ע"י ההתפלגויות שלהם, כלומר אם \(\MKseq X,k\) בלתי-תלויים אז לכל \(n\) משתנים מקריים בלתי-תלויים \(\MKseq{X'},k:\Omega\rightarrow E\) כך ש-\(X'_{i}\MKdist X_{i}\) לכל \(n\geq i\in\MKnatural\) מתקיים \(\left(\MKseq X,k\right)\MKdist\left(\MKseq{X'},k\right)\).
טענה 4.18. אם \(\MKseq X,k\) בלתי-תלויים אז לכל \(n\) פונקציות \(\MKseq f,k:E\rightarrow E\) גם המשתנים המקריים \(f_{1}\circ X_{1},f_{2}\circ X_{2},\ldots,f_{k}\circ X_{k}\) בלתי-תלויים.
מסקנה 4.19. נניח ש-\(\MKseq X,k\) בדידים5גם מסקנה זו נכונה עבור משתנים מקריים שאינם בדידים, וגם בשבילה אנו זקוקים לתורת המידה עבור הגרסה הכללית., יהיו \(\MKseqz b,l\in\MKnatural_{0}\) כך ש-\(0=b_{0}<b_{1}<\ldots<b_{l}=n\), ולכל \(l\geq i\in\MKnatural_{0}\) נסמן \(Y_{i}:=\left(X_{b_{i-1}+1},X_{b_{i-1}+2},\ldots,X_{b_{i}}\right)\). אם \(\MKseq X,k\) בלתי-תלויים אז גם \(\MKseq Y,l\) בלתי-תלויים.
טענה 4.20. לכל סדרת משתנים מקריים בלתי-תלויים6קבוצת איברי הסדרה בלתי-תלויה. \(\left(X_{n}\right)_{n=1}^{\infty}\) ולכל סדרת תתי-קבוצות \(\left(S_{n}\right)_{n=1}^{\infty}\) של \(E\) מתקיים:\[
\MKbbp\left(\forall n\in\MKnatural\ X_{n}\in S_{n}\right)=\prod_{n=1}^{\infty}\MKbbp\left(X_{n}\in S_{n}\right)
\]
מסקנה 4.21. אם \(\left(\Omega,\MKclf,\MKbbp\right)\) הוא מרחב הסתברות בדידה, אז לא קיימת קבוצה אין-סופית של משתנים מקריים בלתי-תלויים בעלי התפלגות זהה שאינה התפלגות קבועה.
התפלגויות נפוצות
טענה 4.22. תהא \(\left(X_{n}\right)_{n=1}^{\infty}\) סדרת משתנים מקריים בעלי התפלגות \(\MKber\left(p\right)\) עבור \(p\in\left(0,1\right)\)7כדי להוכיח שאכן קיימת סדרה כזו יש צורך בתורת המידה., ויהי \(Z:\Omega\rightarrow E\) המשתנה המקרי המוגדר ע"י (לכל \(\omega\in\Omega\)):\[
Z\left(\omega\right):=\min\left\{ n\in\MKnatural\mid X_{n}\left(\omega\right)=1\right\}
\]\(Z\) הוא בעל התפלגות \(\MKgeo\left(p\right)\).
טענה 4.23. נניח ש-\(X\) נתמך על \(\MKnatural\) (בפרט \(\MKnatural\subseteq E\)). התנאים הבאים שקולים:
- קיים \(p\in\left(0,1\right)\) כך ש-\(X\sim\MKgeo\left(p\right)\).
- לכל \(l\in\MKnatural\) מתקיים \(\MKbbp\left(X>n\right)=\left(1-p\right)^{n}\).
משפט 4.24. תכונת חוסר הזיכרון
נניח ש-\(X\) נתמך על \(\MKnatural\) (בפרט \(\MKnatural\subseteq E\)), וש-\(\MKbbp\left(X>1\right)>0\). התנאים הבאים שקולים:
נניח ש-\(X\) נתמך על \(\MKnatural\) (בפרט \(\MKnatural\subseteq E\)), וש-\(\MKbbp\left(X>1\right)>0\). התנאים הבאים שקולים:
- קיים \(p\in\left(0,1\right)\) כך ש-\(X\sim\MKgeo\left(p\right)\).
- לכל \(l\in\MKnatural\) מתקיים \(X\MKdist\left(X-l\mid X>l\right)\).
- \(X\MKdist\left(X-1\mid X>1\right)\).
טענה 4.25. נסמן \(Z:=\sum_{i=1}^{n}X_{i}\), אם \(\MKseq X,n\) בלתי-תלויים וגם \(\MKseq X,n\sim\MKber\left(p\right)\), אז \(Z\sim\MKbin\left(n,p\right)\).
טענה 4.26. אם \(X\sim\MKbin\left(n,p\right)\) ו-\(Y\sim\MKbin\left(m,p\right)\) אז \(X+Y\sim\MKbin\left(n+m,p\right)\).
טענה 4.27. אם \(X\sim\MKpoi\left(\lambda_{1}\right)\) ו-\(Y\sim\MKpoi\left(\lambda_{2}\right)\), אז \(X+Y=\MKpoi\sim\MKpoi\left(\lambda_{1}+\lambda_{2}\right)\).
טענה 4.28. אם \(X\sim\MKpoi\left(\lambda\right)\) ו-\(\left(Y\mid X=n\right)\sim\MKbin\left(n,p\right)\) לכל \(n\in\MKnatural_{0}\), אז \(Y\sim\MKpoi\left(\lambda p\right)\).
טענה 4.29. יהי \(0<\lambda\in\MKreal\), תהא \(\left(X_{n}\right)_{n=\left\lceil \lambda\right\rceil }^{\infty}\) סדרת משתנים מקריים כך ש-\(X_{n}\sim\MKbin\left(n,\frac{\lambda}{n}\right)\) לכל \(\lambda\leq n\in\MKnatural\), ויהי \(Z:\Omega\rightarrow E\) משתנה מקרי כך ש-\(Z\sim\MKpoi\left(\lambda\right)\). לכל \(k\in\MKnatural_{0}\) מתקיים:\[
\lim_{n\rightarrow\infty}\MKbbp\left(X_{n}=k\right)=\MKbbp\left(Z=k\right)
\]
\(\:\)
5 תוחלת ושונות
5.1 הגדרות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות, תהא \(\MKclf_{\MKreal}\) קבוצת מאורעות על \(\MKreal\)8מבחינת ההגדרות ניתן להחליף את \(\MKreal\) בכל מרחב וקטורי מעל \(\MKreal\)., ויהיו \(X,Y:\Omega\rightarrow\MKreal\) משתנים מקריים בדידים.
הגדרה 5.1. תוחלת
התוחלת של \(X\) היא:\[ \MKbbe\left(X\right):=\sum_{x\in\MKreal}x\cdot\MKbbp\left(X=x\right)=\sum_{x\in\MKim X}x\cdot\MKbbp\left(X=x\right) \]אם הסכום הנ"ל אינו מוגדר9ישנן שתי סיבות לכך שהסכום לא יהיה מוגדר: ייתכן שכל האיברים בסכום אי-שליליים והוא שואף ל-\(\infty\) (במקרה זה ניתן אולי לומר שהתוחלת היא \(\infty\)), אך ייתכן גם שהוא אינו מוגדר משום ששינוי סדר הסכימה ישנה את ערך הטור ולכן הוא אינו מוגדר כלל. נאמר שאין ל-\(X\) תוחלת סופית.
התוחלת של \(X\) היא:\[ \MKbbe\left(X\right):=\sum_{x\in\MKreal}x\cdot\MKbbp\left(X=x\right)=\sum_{x\in\MKim X}x\cdot\MKbbp\left(X=x\right) \]אם הסכום הנ"ל אינו מוגדר9ישנן שתי סיבות לכך שהסכום לא יהיה מוגדר: ייתכן שכל האיברים בסכום אי-שליליים והוא שואף ל-\(\infty\) (במקרה זה ניתן אולי לומר שהתוחלת היא \(\infty\)), אך ייתכן גם שהוא אינו מוגדר משום ששינוי סדר הסכימה ישנה את ערך הטור ולכן הוא אינו מוגדר כלל. נאמר שאין ל-\(X\) תוחלת סופית.
- \(\clubsuit\)
- התוחלת היא ממוצע משוקלל על התמונה של \(X\), כאשר המשקל של כל איבר נקבע לפי ההתפלגות של \(X\); כך התוחלת מספרת לנו מהו הערך שאנחנו מצפים לקבל ב"ניסוי" שלנו (לא במקרה היא נקראת באנגלית "expected value").
- \(\clubsuit\)
- ייתכן של-\(X\) יש תוחלת אך התוחלת \(\MKbbe\left(\left(X-\MKbbe\left(X\right)\right)^{2}\right)\) אינה מוגדרת ולכן אין ל-\(X\) שונות.
- \(\clubsuit\)
- ראינו שהתוחלת מנסה לייצג את הערך הצפוי מה"ניסוי" ההסתברותי, אלא שכאן הבן שואל: עד כמה היא באמת מייצגת? כלומר התוחלת היא ממוצע משוקלל, אבל כמו הבדיחה הידועה על "הסטטיסטיקאי שטבע בנחל שעומקו הממוצע \(20\) ס"מ", גם כאן לא ברור עד כמה התוחלת מייצגת את כלל התוצאות האפשריות ב"ניסוי". לשם המחשה נביא שני משתנים מקריים שהתפלגויותיהם מוצגות באיור שלמטה: ציר ה-\(x\) מייצג ערכים בתמונת המשתנים המקריים וציר ה-\(y\) מייצג את ההסתברות של המאורעות המתאימים. התוחלת של שני המשתנים המקריים היא \(0\) (כי הם סימטריים ביחס לציר ה-\(y\)), אך \(0\) מייצג את הערכים הצפויים להתקבל מהמשתנה המקרי האדום טוב יותר משהוא מייצג את אלו הצפויים להתקבל מן הכחול.
כדי למדוד עד כמה באמת התוחלת קרובה לערכים הצפויים להתקבל מהניסוי, היה מתבקש להגדיר את השונות כ-\(\MKbbe\left(\left|X-\MKbbe\left(X\right)\right|\right)\) - כלומר התוחלת של המרחק בין המשתנה המקרי לתוחלת שלו10כך נקבל שונות קטנה יותר כאשר מאורעות קרובים לתוחלת הם בעלי הסתברות גבוהה, וכן להפך: נקבל שונות גדולה יותר כאשר מאורעות רחוקים מהתוחלת הם בעלי הסתברות גבוהה.. הסיבה לכך שאנו מגדירים ע"י העלאה בריבוע היא שאז יש לשונות תכונות "יפות" יותר, כפי שנראה בהמשך.
- \(\clubsuit\)
- ניתן להסתכל על הסכום \(\sum_{x\in\MKreal}x\cdot\MKbbp\left(X=x\right)\) כעל סכום שטחי מלבנים כאשר אורך הבסיס של מלבן בגובה \(x\) הוא \(\MKbbp\left(X=x\right)\). זה מזכיר קצת את הגדרת האינטגרל? ודאי, ולא במקרה.
ניתן לנסות לתת הגדרה מעט אחרת לשטח שבין הגרף של פונקציה \(f:\MKreal\rightarrow\MKreal\) לבין ציר ה-\(x\) באופן הבא: במקום לחלק את תחום ההגדרה של הפונקציה לחלקים קטנים, ובכל אחד מהם לדגום את הפונקציה, ואז לסכום את מכפלות אורכי החלקים הקטנים בערך הדגימה מתאים (כפי שעושים באינטגרל רימן); ניתן להסתכל על כל מספרים הממשיים, לכפול כל אחד מהם באורך התמונה ההפוכה שלו, ולסכום את התוצאות. אך מהו האורך של קבוצה? עבור קטעים ברור לנו שאורכם הוא המרחק שבין קצות הקטע, ברור לנו גם שה"אורך" של הקבוצה הריקה הוא \(0\), ושהאורך של איחוד זר (אפילו אין-סופי) של קבוצות שהאורך שלהן ידוע הוא סכום אורכי הקבוצות. א"כ נסמן ב-\(\MKclf_{\MKreal}\)11זה לא מקרי, זאת באמת הקבוצה שאנחנו מתכוונים אליה כשאנחנו מדברים על סתם קבוצת מאורעות על \(\MKreal\). את קבוצת תתי-הקבוצות של \(\MKreal\) הניתנות להצגה בצורה הנ"ל12כלומר הקבוצה מוגדרת באופן אינדוקטיבי (זו לא אינדוקציה על הטבעיים):הקבוצה הריקה, כל הקטעים שייכים לקבוצה, וכל תת-קבוצה \(S\subseteq\MKreal\) שניתנת להצגה כאיחוד זר של קבוצות שנמצאות בקבוצה - גם היא בקבוצה., ותהא \(m:\MKclf_{\MKreal}\rightarrow\MKreal\) פונקציה המקיימת (לכל \(a,b\in\MKreal\) כך ש-\(a\leq b\)):\[ m\left(\left(a,b\right)\right)=m\left(\left[a,b\right)\right)=m\left(\left(a,b\right]\right)=m\left(\left[a,b\right]\right)=b-a \]כעת נוכל לצפות (יש להוכיח זאת) שיתקיים (לכל \(a,b\in\MKreal\)):\[ \intop_{a}^{b}f\left(x\right)dx=\sum_{y\in\MKreal}y\cdot m\left(f^{-1}\left(\left\{ y\right\} \right)\cap\left[a,b\right]\right) \]ולכן נגדיר (לכל \(S\in\MKclf_{\MKreal}\)):\[ \intop_{S}f\ dm:=\sum_{y\in\MKreal}y\cdot m\left(f^{-1}\left(\left\{ y\right\} \right)\cap S\right) \]אבל \(m\) אינה הפונקציה היחידה שיכולה להגדיר מהו ה"אורך" של קבוצה, למעשה נוכל לעשות זאת עם כל סיגמא-אלגברה13קבוצה הכוללת את הקבוצה הריקה, סגורה למשלים, וסגורה לאיחוד זר אין-סופי. \(\MKclf_{\MKreal}^{\ast}\subseteq\MKclp\left(\MKreal\right)\) ופונקציה אי-שלילית \(m^{\ast}:\MKclf_{\MKreal}^{\ast}\rightarrow\MKreal\) המקיימת:\[ m^{\ast}\left(\stackrel[n=1]{\infty}{\MKbigcupdot}A_{n}\right)=\sum_{n=1}^{\infty}m^{\ast}\left(A_{n}\right) \]לכל סדרה \(\left(A_{n}\right)_{n=1}^{\infty}\) שכל איבריה ב-\(\MKclf_{\MKreal}^{\ast}\). אחת הפונקציות הללו היא \(\MKbbp\)! וכך נקבל:\[ \]
הגדרה 5.2. שׁוֹנוּת
השונות של \(X\) היא \(\MKvar\left(X\right):=\MKbbe\left(\left(X-\MKbbe\left(X\right)\right)^{2}\right)\).
אם התוחלת הנ"ל אינה מוגדרת נאמר שאין ל-\(X\) שונות סופית.
השונות של \(X\) היא \(\MKvar\left(X\right):=\MKbbe\left(\left(X-\MKbbe\left(X\right)\right)^{2}\right)\).
אם התוחלת הנ"ל אינה מוגדרת נאמר שאין ל-\(X\) שונות סופית.
lyxscale 50איור 1: המחשה של מושג השונות
מסקנה 5.3. מתקיים \(\MKvar\left(X\right)=\MKbbe\left(X^{2}\right)-\left(\MKbbe\left(X\right)\right)^{2}\).
הגדרה 5.4. שונות משותפת
השונות המשותפת של \(X\) ו-\(Y\) היא \(\MKcovar\left(X,Y\right):=\MKbbe\left(\left(X-\MKbbe\left(X\right)\right)\left(Y-\MKbbe\left(Y\right)\right)\right)\).
אם התוחלת הנ"ל אינה מוגדרת נאמר שאין ל-\(X\) ול-\(Y\) אין שונות משותפת סופית.
השונות המשותפת של \(X\) ו-\(Y\) היא \(\MKcovar\left(X,Y\right):=\MKbbe\left(\left(X-\MKbbe\left(X\right)\right)\left(Y-\MKbbe\left(Y\right)\right)\right)\).
אם התוחלת הנ"ל אינה מוגדרת נאמר שאין ל-\(X\) ול-\(Y\) אין שונות משותפת סופית.
מסקנה 5.5. \(\MKcovar\left(X,Y\right)\) מוגדרת אם"ם \(\MKcovar\left(Y,X\right)\) ובמקרה כזה הן שוות.
הגדרה 5.6. נאמר ש-\(X\) ו-\(Y\) בלתי-מתואמים אם \(\MKcovar\left(X,Y\right)=0\).
מסקנה 5.7. אם \(X\) ו-\(Y\) בלתי-תלויים ובעלי שונות משותפת אז הם גם בלתי מתואמים.
5.2 טענות
יהי \(\left(\Omega,\MKclf,\MKbbp\right)\) מרחב הסתברות, תהא \(\MKclf_{\MKreal}\) קבוצת מאורעות על \(\MKreal\)14מבחינת ההגדרות ניתן להחליף את \(\MKreal\) בכל מרחב וקטורי מעל \(\MKreal\)., ויהיו \(X,Y,Z:\Omega\rightarrow\MKreal\) שני משתנים מקריים.
- \(\clubsuit\)
- ל-\(X\) ול-\(Y\) אין בהכרח תוחלות, כשנרשום שוויונות בין תוחלות כוונתנו שהתוחלות באגף אחד מוגדרות אם"ם התוחלות באגף האחר מוגדרות ואז מתקיים שוויון, וכשנכתוב אי-שוויונות נתכוון שאם התוחלות קיימות אז מתקיים הא"ש.
5.3 תוחלת
טענה 5.8. מתקיימות התכונות הבאות:
- לכל \(a,b\in\MKreal\) מתקיים \(\MKbbe\left(a\cdot X+b\cdot Y\right)=a\cdot\MKbbe\left(X\right)+b\cdot\MKbbe\left(Y\right)\).
- אם \(X\MKgreatalmsur0\) אז \(\MKbbe\left(X\right)\geq0\), ואם מתקיים בנוסף \(\MKbbp\left(X>0\right)>0\) אז \(\MKbbe\left(X\right)>0\).
- אם \(X\MKgreatalmsur Y\) אז \(\MKbbe\left(X\right)\geq\MKbbe\left(Y\right)\), ואם מתקיים בנוסף \(\MKbbp\left(X>Y\right)>0\) אז \(\MKbbe\left(X\right)>\MKbbe\left(Y\right)\).
טענה 5.9. אם \(\left(\Omega,\MKclf,\MKbbp\right)\) הוא מרחב הסתברות בדידה אז:\[
\MKbbe\left(X\right)=\sum_{\omega\in\Omega}X\left(\omega\right)\cdot\MKbbp\left(\left\{ \omega\right\} \right)
\]
טענה 5.10. יהיו \(\MKseq X,n:\Omega\rightarrow\MKreal\) משתנים מקריים בדידים, תהא \(f:\MKreal^{n}\rightarrow\MKreal\) פונקציה, ונסמן \(\tilde{X}:=f\left(\MKseq X,n\right)\). מתקיים:\[
\MKbbe\left(\tilde{X}\right)=\sum_{v\in\MKreal^{n}}f\left(v\right)\cdot\MKbbp\left(\tilde{X}=v\right)
\]
טענה 5.11. לכל מאורע \(A\in\MKclf\) מתקיים:\[
\MKbbe\left(X\mid A\right)=\frac{\MKbbe\left(X\cdot\MKindicator_{A}\right)}{\MKbbp\left(A\right)}
\]
מסקנה 5.12. נוסחת התוחלת השלמה
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKclf\). מתקיים:\[ \MKbbe\left(X\right)=\sum_{A\in\MKcla}\MKbbe\left(X\cdot\MKindicator_{A}\right)=\sum_{A\in\MKcla}\MKbbp\left(A\right)\cdot\MKbbe\left(X\mid A\right) \]
תהא \(\MKcla\) חלוקה סופית/בת-מנייה של \(\Omega\) כך ש-\(A\cap B\in\MKclf\) לכל \(A,B\in\MKclf\). מתקיים:\[ \MKbbe\left(X\right)=\sum_{A\in\MKcla}\MKbbe\left(X\cdot\MKindicator_{A}\right)=\sum_{A\in\MKcla}\MKbbp\left(A\right)\cdot\MKbbe\left(X\mid A\right) \]
טענה 5.13. אם \(X\) ו-\(Y\) בדידים אז:\[
\MKbbe\left(X\right)=\sum_{t\in\MKreal}\MKbbp\left(Y=t\right)\cdot\MKbbe\left(X\mid Y=t\right)
\]
טענה 5.14. נוסחת הזנב
אם \(X\) נתמך על \(\MKnatural_{0}\) אז \({\displaystyle \MKbbe\left(X\right)=\sum_{n\in\MKnatural}\MKbbp\left(X\geq n\right)}\).
אם \(X\) נתמך על \(\MKnatural_{0}\) אז \({\displaystyle \MKbbe\left(X\right)=\sum_{n\in\MKnatural}\MKbbp\left(X\geq n\right)}\).
משפט 5.15. תוחלות של התפלגויות נפוצות
- אם \(X\sim\MKber\left(p\right)\) אז \(\MKbbe\left(X\right)=p\).
- אם \(X\sim\MKgeo\left(p\right)\) אז \(\MKbbe\left(X\right)=\frac{1}{p}\).
- אם \(X\sim\MKbin\left(n,p\right)\) אז \(\MKbbe\left(X\right)=np\).
- אם \(X\sim\MKpoi\left(\lambda\right)\) אז \(\MKbbe\left(X\right)=\lambda\).
- אם \(X\sim\MKhypergeo\left(n,a,b\right)\) אז \(\MKbbe\left(X\right)=\frac{na}{a+b}\).
טענה 5.16. אם \(X\) ו-\(Y\) בדידים15גם טענה זו נכונה עבור משתנים מקריים שאינם בדידים אך ההוכחה שלה דורשת את תורת המידה. אז \(\MKbbe\left(X\cdot Y\right)=\MKbbe\left(X\right)\cdot\MKbbe\left(Y\right)\).
משפט 5.17. אי-שוויון מרקוב16אי-שוויון מרקוב קרוי על שם המתמטיקאי הרוסי אנדריי מרקוב, אם כי קיים תיעוד שלו בעבודותיו המוקדמות של פפנוטי צ'בישב שהיה מורו של מרקוב (ויקיפדיה).
אם \(X\MKgreatalmsur0\) אז לכל \(0<a\in\MKreal\) מתקיים \({\displaystyle \MKbbp\left(X\geq a\right)\leq\frac{\MKbbe\left(X\right)}{a}}\).
אם \(X\MKgreatalmsur0\) אז לכל \(0<a\in\MKreal\) מתקיים \({\displaystyle \MKbbp\left(X\geq a\right)\leq\frac{\MKbbe\left(X\right)}{a}}\).
5.4 שונות
מסקנה 5.18. אי-שוויון צ'בישב17ערך בוויקיפדיה: פפנוטי צ'בישב.
אם \(X\) בעל שונות סופית אז לכל \(0<a\in\MKreal\) מתקיים \({\displaystyle \MKbbp\left(\left|X-\MKbbe\left(X\right)\right|\geq a\right)\leq\frac{\MKvar\left(X\right)}{a^{2}}}\).
אם \(X\) בעל שונות סופית אז לכל \(0<a\in\MKreal\) מתקיים \({\displaystyle \MKbbp\left(\left|X-\MKbbe\left(X\right)\right|\geq a\right)\leq\frac{\MKvar\left(X\right)}{a^{2}}}\).
מסקנה 5.19. החוק החלש של המספרים הגדולים
תהא \(\left(X_{n}\right)_{n=1}^{\infty}\) סדרת משתנים מקריים בלתי תלויים ושווי-התפלגות, ונסמן ב-\(\mu\) את התוחלת המשותפת שלהם. מתקיים:\[ \lim_{n\rightarrow\infty}\MKbbp\left(\left|\frac{\sum_{k=1}^{n}X_{i}}{n}-\mu\right|<\varepsilon\right)=1 \]
תהא \(\left(X_{n}\right)_{n=1}^{\infty}\) סדרת משתנים מקריים בלתי תלויים ושווי-התפלגות, ונסמן ב-\(\mu\) את התוחלת המשותפת שלהם. מתקיים:\[ \lim_{n\rightarrow\infty}\MKbbp\left(\left|\frac{\sum_{k=1}^{n}X_{i}}{n}-\mu\right|<\varepsilon\right)=1 \]
- \(\clubsuit\)
- כלומר כאשר חוזרים על ניסוי שוב ושוב, ההסתברות לקבל ערכים קרובים לתוחלת שואפת ל-\(1\) ככל שמבצעים את הניסוי פעמים רבות יותר.
- \(\clubsuit\)
- כן, השונות המשותפת היא "כמעט" מכפלה פנימית, הדבר היחיד שחסר הוא שהשונות משותפת של משתנה מקרי עם עצמו תהיה \(0\) אם"ם הוא פונקציית ה-\(0\). המשתנים שמקלקלים את התכונה הזו הם המשתנים הקבועים כמעט תמיד, ולכן נראה לי שניתן להגדיר את המכפלה הפנימית המתאימה על מחלקות השקילות של יחס השקילות המוגדר כך: נאמר ש-\(X\) ו-\(Y\) שקולים אם קיים קבוע \(c\in\MKreal\) כך ש-\(X+a\MKdist Y\).
- \(\clubsuit\)
- לפי הגדרה, האיברים ה"מאונכים" במרחב המכפלה הזה אם אלו שבלתי-מתואמים.
- \(\clubsuit\)
- הנורמה במרחב המכפלה הנ"ל היא \(\sqrt{\MKcovar\left(X,X\right)}=\sqrt{\MKvar\left(X\right)}\) - כלומר הנורמה היא סטיית התקן!
משפט 5.20. תכונות השונות
נניח של-\(X\) יש שונות, מתקיימות התכונות הבאות:
נניח של-\(X\) יש שונות, מתקיימות התכונות הבאות:
- אי-שליליות - \(\MKvar\left(X\right)\geq0\), ובנוסף \(X\MKalmsur c\) עבור קבוע \(c\in\MKreal\) כלשהו (הקבוע הזה הוא פשוט \(\MKbbe\left(X\right)\)).
- אדישות להזזות - \(\MKvar\left(X+c\right)=\MKvar\left(X\right)\) לכל \(c\in\MKreal\).
- כיול ריבועי - \(\MKvar\left(c\cdot X\right)=c^{2}\cdot\MKvar\left(X\right)\).
טענה 5.21. אם \(X\) ו-\(Y\) בעלי תוחלת סופית, אז הם גם בעלי שונות משותפת (כלומר \(\MKcovar\left(X,Y\right)\) מוגדרת), ומתקיים \(\MKcovar\left(X,Y\right)=\MKbbe\left(X\cdot Y\right)-\MKbbe\left(X\right)\cdot\MKbbe\left(Y\right)\).
משפט 5.22. אם \(X\) ו-\(Y\) בלתי-תלויים אז הם גם בלתי-מתואמים.
טענה 5.23. מתקיים:\[
\MKvar\left(X+Y\right)=\MKvar\left(X\right)+2\cdot\MKcovar\left(X,Y\right)+\MKvar\left(Y\right)
\]
מסקנה 5.24. אם \(X\) ו-\(Y\) בעלי שונות ובלתי-מתואמים (ובפרט אם הם בלתי תלויים) אז \(\MKvar\left(X+Y\right)=\MKvar\left(X\right)+\MKvar\left(Y\right)\).
משפט 5.25. תכונות השונות המשותפת
נניח של-\(X,Y,Z\) יש שונויות משותפות בזוגות, מתקיימות התכונות הבאות (לכל \(\lambda\in\MKreal\)):
נניח של-\(X,Y,Z\) יש שונויות משותפות בזוגות, מתקיימות התכונות הבאות (לכל \(\lambda\in\MKreal\)):
- אדישות להזזות - \(\MKcovar\left(X+\lambda,Y\right)=\MKcovar\left(X,Y\right)=\MKcovar\left(X,Y+\lambda\right)\).
- בי-ליניאריות - \[\begin{align*} \MKcovar\left(X,Y+Z\right) & =\MKcovar\left(X,Y\right)+\MKcovar\left(X,Z\right)\\ \MKcovar\left(X,\lambda\cdot Y\right) & =\lambda\cdot\MKcovar\left(X,Y\right)\\ \MKcovar\left(X+Z,Y\right) & =\MKcovar\left(X,Y\right)+\MKcovar\left(Z,Y\right)\\ \MKcovar\left(\lambda\cdot X,Y\right) & =\lambda\cdot\MKcovar\left(X,Y\right) \end{align*}\]
- סימטריה - \(\MKcovar\left(X,Y\right)=\MKcovar\left(Y,X\right)\).
- חיוביות - \(\MKcovar\left(X,X\right)=\MKvar\left(X\right)\geq0\).